자율주행차를 안전하게 만드는 가장 위험한 방법
발송일 2026.11.19
GA2AD, 자율주행차를 ‘공격 차량’과 함께 훈련시킨 실험
자율주행차 옆에 일부러 끼어들고 급제동하는 ‘공격 차량’을 붙여 훈련시켰습니다. 충돌률은 시뮬레이션에서 55~70% 줄었습니다.
💡 이번 주 뉴스레터 요약
- 위험한 상대를 일부러 만든다 : GA2AD는 자율주행차 주변 차를 학습시켜 끼어들기, 급제동, 과속 같은 위험한 상황을 만들어 내는 훈련법입니다.
- 너무 약하지도, 세지도 않게 : 공격할 순간을 골라내고, 충돌이 얼마나 자주 일어나는지에 따라 자율주행차와 공격 차량의 훈련 차례를 바꿉니다.
- 충돌 55~70% 감소 : 시뮬레이션에서 충돌률이 55~70% 줄었고, 실제 차에 가상 차량을 겹쳐 띄운 시험에서도, 계산으로 추정한 충돌률이 일반 훈련을 받은 AI보다 낮았습니다(초기 단계 결과).
1. GA2AD는 무엇이 다른가
일부러 까다로운 상황을 만들어 AI를 단련하는 방법을 적대적 훈련이라고 합니다.
자율주행에서도 이미 연구가 진행되어 온 방법이죠. 하지만 기존 방식에는 문제가 두 가지 있었습니다.
첫째, 자율주행 AI가 속에서 어떻게 계산하는지 알아야 하는 경우가 많았습니다.
그런데 자율주행 AI는 종류마다 설계가 다릅니다. 한 AI에 맞춰 만든 훈련법을 다른 AI에 그대로 쓰기 어려웠죠.
둘째, 공격의 세기를 조절하지 않으면 자율주행차가 제대로 대응하지 못하는 경우가 많았습니다.
공격이 너무 약하면 자율주행차의 약점이 드러나지 않을 수 있고, 너무 세면 자율주행차가 감당하지 못해 훈련 자체가 실패할 수 있습니다.
스파링과 비슷합니다. 상대가 너무 약하면 실력이 늘지 않고, 너무 세면 배우기도 전에 쓰러지죠.
📌 적대적 훈련(adversarial training) : AI를 곤란하게 만드는 상황을 일부러 만들어 함께 학습시키는 방법. 이 연구에서는 공격하는 주변 차와 방어하는 자율주행차가 번갈아 학습합니다.
중국 하얼빈공업대학교 연구진이 주도해 Nature Communications에 발표한 GA2AD는 자율주행 AI의 속을 들여다보지 않습니다. 그 대신 주변 차를 움직이는 AI를 따로 학습시킵니다.
자율주행차를 둘러싼 주변 차 6대는 평소 미리 정해 둔 교통 규칙대로 달립니다.
그러다 AI가 그중 한 대를 ‘공격 차량’으로 골라 끼어들기, 급제동, 과속을 시킵니다.
쉽게 말하자면, 자율주행차에게 AI 스파링 상대를 붙여 준 것입니다.
**📌 블랙박스(black box) : ** 차에 다는 녹화 장치가 아니라, 속을 모르는 채로 다루는 대상을 뜻하는 말. GA2AD는 자율주행 AI를 블랙박스로 두기 때문에, 구조를 고치지 않고 강화학습 방식 AI 4종에 붙여 시험할 수 있었습니다.

평소에는 주변 차 6대가 규칙대로 달리고(왼쪽), 공격 때는 AI가 고른 한 대가 위험한 행동을 한다(오른쪽) | 논문 내용을 바탕으로 제작 · 참고: Xu et al., GA2AD (2026)
2. 공격에도 요령이 있다
그렇다면 공격 차량은 아무 때나 달려들까요?
그렇지 않습니다. 훈련이 되려면 공격이 너무 쉬워도, 너무 어려워도 안 됩니다. GA2AD는 이를 세 가지 장치로 조절합니다.
**01 주변 차마다 위험 점수를 매긴다. **
주변 차가 저마다 자율주행차에 얼마나 위험한지 따집니다. 가까이 있을수록, 빠르게 다가올수록 더 위험하다고 봅니다. 이렇게 차 주변의 위험을 지도처럼 나타낸 것을 논문은 ‘하이브리드 위험장(hybrid risk field)’이라고 부릅니다.
그런 다음 각 차가 ‘위험, 주의, 안전’ 중 어디에 가까운지 따져 위험 점수 하나로 정리합니다.
주변 전체의 위험 점수도 구하는데, 여섯 대의 평균이 아니라 가장 임박한 위험을 기준으로 삼습니다.
02 공격할 만한 순간만 고른다.
공격을 할 지 말 지는 논문이 ‘활성화 함수(activation function)’라고 부르는 규칙이 정합니다. 공격 차량 후보로 뽑힌 차(후보 차)의 위험 점수와 주변 전체의 위험 점수를 고려하고, 그 결과가 정해 둔 범위 안에 들 때만 공격을 허용합니다.
위험이 아직 낮거나 후보 차의 위험 점수가 주변 전체보다 훨씬 낮으면 공격 상대로 알맞지 않다고 봅니다. 반대로 주변이 이미 너무 위험하면 공격이 곧장 충돌로 이어질 수 있어, 이때는 공격하지 않습니다.
결국 위협이 안 되는 순간과 이미 너무 위험한 순간은 모두 건너뜁니다.
03 한쪽씩 번갈아 배운다.
둘을 한꺼번에 가르치면 상대가 계속 바뀌는 셈이라, 학습이 제대로 되지 않을 수 있습니다.
그래서 한쪽이 배우는 동안 다른 쪽은 학습을 멈춥니다.
이 차례 바꾸기는 ‘적응형 전환 모듈(adaptive switch module)’이 맡습니다.
차례는 충돌과 충돌 사이의 간격으로 정합니다. 간격이 짧으면, 즉 충돌이 잦으면 자율주행차가 배울 차례입니다. 반대로 간격이 길어지면 공격 차량이 배울 차례입니다.

공격할 순간을 고르는 기준(위)과 훈련 차례가 바뀌는 조건(아래) | 논문 내용을 바탕으로 제작 · 참고: Xu et al., GA2AD (2026)
학습을 마친 공격 차량은 어떻게 움직일까요? 논문이 소개한 한 장면은 이렇습니다.
왼쪽 뒤에 있던 공격 차량은 처음엔 위험 점수가 낮아 공격하지 않습니다.
0.7초쯤 거리가 좁혀져 위험 점수가 뛰자 공격이 시작됩니다.
이후 속도를 올리며 따라붙고, 3.4초에 자율주행차를 뒤에서 들이받습니다.
자율주행차는 이런 장면을 반복해 겪으며 대처하는 법을 배웁니다.
3. 결과 : 충돌은 크게, 속도는 조금 줄었다
연구진은 교통 시뮬레이터 SUMO 안에 실제 지리 데이터를 바탕으로 3.2km 길이의 도로(4차로, 신호 교차로 3곳)를 구현했습니다. 여기서 일반 환경에서만 훈련한 차와 공격 차량과 함께 훈련한 차를 비교했습니다.
먼저 충돌률입니다.
같은 거리를 달리는 동안 충돌이 얼마나 자주 일어나는지를 나타냅니다.
공격 차량과 훈련한 차는 공격 차량이 없는 일반 시험에서 충돌률이 69.31% 낮았습니다.
또한, 공격 차량이 나오는 시험(훈련 때 상대한 그 공격 AI)에서도 55.24% 낮았습니다.
운전도 부드러워졌습니다.
급가속이나 급제동을 하면 몸이 앞뒤로 쏠리죠. 이렇게 가속과 감속이 얼마나 갑작스러운지를 나타낸 값을 저크(jerk)라고 하는데, 이 값이 각각 21.23%, 42.35% 줄었습니다.
**📌 저크(jerk) : ** 정확히는 가속도가 얼마나 급하게 바뀌는지 나타내는 값. 클수록 승차감이 나빠집니다. 논문은 가장 거친 상위 5% 순간을 가르는 값(95번째 백분위)을 썼습니다.
조심하느라 느려지진 않았을까요?
조금 느려지긴 했습니다. 평균 속도가 일반 시험에서 2.9m/s(시속 약 10km, 9.18%), 공격 시험에서 1.2m/s(시속 약 4km, 4.24%) 줄었습니다.
연구진은 안전이 좋아진 것에 비하면 받아들일 만한 수준이라고 봅니다.
자율주행 AI를 바꿔도 결과는 비슷했습니다. 강화학습 방식이 서로 다른 AI 4종(DQN, TD3, SAC, DDPG)에 똑같이 적용하자, 충돌률과 저크, 주변 위험 점수가 4종 모두에서 나아졌습니다.
평균 속도는 4종 모두 조금 줄었습니다. 구조에는 손대지 않았는데도요.
**📌 강화학습(Reinforcement Learning) : ** 시행착오를 거치며 보상을 많이 받는 행동을 익히는 학습 방식. DQN, TD3, SAC, DDPG는 모두 강화학습 알고리즘입니다.

공격 차량과 훈련한 차가 일반 훈련만 받은 차보다 얼마나 줄었는지(감소율) | 출처: Xu et al., GA2AD, Nature Communications (2026), doi:10.1038/s41467-026-75643-z, 본문 수치로 재구성
다만 시뮬레이션 속 일반 환경은 현실보다 순했을 수 있습니다. 일반 환경에서 훈련하고 시험한 차의 충돌률은 100만 km당 1건꼴로, 중국 시범 운행 구역의 실제 수치(100만 km당 약 6.48건)보다 낮았습니다.
연구진은 시뮬레이션 속 주변 차가 사람보다 조심스럽게 움직였기 때문일 수 있다고 봅니다.
그렇다면 공격 세기 조절은 꼭 필요했을까요?
훈련 차례를 충돌과 상관없이 정해진 간격마다 기계적으로 바꾸자, 훈련을 오래 해도 자율주행차의 학습 점수(보상)가 더 낮고 들쭉날쭉했습니다.
반대로 활성화 함수를 빼자 공격이 무뎌졌습니다.
아슬아슬한 순간이 일반 훈련 때에 가까울 만큼 드물어졌습니다. 결국 두 장치를 모두 갖춘 GA2AD는 쉽지 않지만 감당할 만한 상황을 유지했습니다.
4. 진짜 시험장에 가상의 차를 띄웠다
그렇다면 실제 차에서도 통할까요? 연구진은 중국 헤이룽장성의 헤이허 자율주행 시험장에서 실제 자율주행 차량(둥펑 청룽 H7)으로 시험했습니다.
주변 차는 증강현실로 만들었습니다. 가상 차량을 시험 차의 카메라 영상과 라이다(레이저로 거리를 재는 센서) 데이터에 실시간으로 그려 넣자, 시험 차는 이를 진짜 차처럼 인식하고 반응했죠.
말 그대로 도로와 시험 차는 진짜, 위협하는 주변 차는 가상입니다. 일반 운전자들과 섞여 달린 시험은 아닙니다.
이 환경은 훨씬 험했습니다. 지금 속도대로 가면 충돌까지 2초도 안 남은 경우가 기록된 값의 34.97%로, 일반 훈련 환경(0.60%)의 약 58배였습니다.
결과는 시뮬레이션과 같은 흐름이었습니다.
GA2AD로 훈련한 AI 4종 모두, 일반 훈련을 받은 AI보다 충돌률이 낮았습니다.
다만 이 충돌률은 실제 도로의 사고 빈도를 직접 잰 값이 아닙니다.
위험한 상황에서 부딪힐 확률(시험장 측정)과 그런 상황이 생기는 빈도(시뮬레이션 추정)를 결합한 ‘가상 물리 융합 충돌률’이고, 연구진도 아직 초기 단계의 근거라고 표현합니다.
5. 스파링 상대가 알려준 것과 아직 모르는 것
이번 연구는 자율주행 AI의 속을 들여다보지 않고도, 세기를 조절하는 공격 차량과 번갈아 훈련시키면 시험한 공격 상황에서 충돌과 거친 운전을 줄일 수 있음을 보였습니다.
하지만 아직 모르는 것도 많습니다.
충돌까지 남은 시간이 짧은 순간이 많다는 건 위험에 자주 노출됐다는 뜻일 뿐, 실제 사고 위험이나 피해 크기를 직접 보여 주지는 않습니다. 공격 차량이 낸 사고 유형의 순서는 미국의 실제 사고 통계(NHTSA)와 비슷했지만, 세세한 움직임이 사람의 운전과 얼마나 닮았는지는 아직 수치로 검증된 적이 없습니다. 평가한 시간과 거리도 길지 않았습니다. 결국 일반 훈련 차보다 안전했다는 시험장 결과가 실제 도로에서도 이어질지는 대규모 도로 검증으로 확인해야 할 숙제로 남았습니다.
자율주행차의 훈련 상대도 설계할 수 있습니다
위험한 순간은 기다린다고 자주 오지 않습니다. 가상의 공격 차량과 훈련한 자율주행차는 진짜 도로의 돌발 운전자도 피할 수 있을까요?