자율주행차 보안의 이야…

>

모든 AI 솔루션 가운데 자율주행차의 사이버 보안이 가장 중요한 측면이라고 생각합니다. 인간의 삶에 영향을 미치는 단 한번의 글재만으로도 피해 중견기업뿐만 아니라 산업 전반에 지장을 줄 수 있습니다. 사람들이 당장 그런 기술에 대한 신뢰를 잃는 것은 당연하다.예를 들어, Arizona주의 어느 거리에서 자율주행차가 여성을 사망시킨 문재를 예로 들어볼까요? 이 뭉지에는 파문 하나 일으키며 연구자들은 자동 주행 차에 구현된 AI시스템의 시큐러티에 관심을 가지고 왔습니다. ​ AI의 보안은 하나 발죠크에 20일 4년에 AI시스템을 속이기 위해서 고안된 입력 사항인 적대적 공격에 대한번째 논문 발표, 다음 농우이미 대상이 되었어요. 2년 후, 연구자들은 이론에서 실행에 옮기고 실제 해결책에 이론적 공격을 적용하기 시작했습니다. 다음 자율주행차의 인공지능(AI) 시스템은 중대함으로 인해 관심이 높아진 분야 가운데 결코 바람직하지 않다.자동화된 차량이 점점 더 널리 보급되고 안전성에 대한 문제가 제기되면서 이를 생산하는 회사가 채워야 할 수많은 규제가 논의되고 있습니다. America, 전국 주의회 회의(National Conference of State Legislatures)가 발간한 보고서에 따르면 4일본의 주와 컬럼비아 특별구(District of Columbia)는 먼저 자율 주행 자동차 입법을 실험하고 하원은 앞서고, HR 3388을 통과시키고 자율 주행 차에 통하는 적 기준을 의무화합니다.이와 관련된 모든 우려를 고려할 때 향후 이들의 사이버보안 문제가 멈추지 않을 경우 자율주행의 명성은 상실될 것으로 믿습니다. 공격받는 자율주행차의 한 부분, AI 추진의 구성요소를 살펴보겠습니다. 이 부분은 모드의 다양한 방식의 작은 부분 하나뿐이다.기지인식시스템(Image Recognition Systems) 선행지인식시스템은 도로표지를 감지할 수 있습니다. 그러나 그들이 특별한 스티커와 낙서(graffiti)의 도움으로 속일 수 있다는 사실이 20일 6년 유출적으로 입증되었다. 이는 20일 7년의 개선으로 이어지는 이는 더 나쁘지 않아서는 결과를 낳았습니다. 이른바 반대의 예로는 시간적으로 한 클래스를 가리키는 리드가 있지만, AI시스템은 정지표지판 대신에 우회전을 감지하는 자동차처럼 이들을 다른 클래스의 리드로 잘못 인식한다.물체감지시스템(Object Detection Systems) 자율주행차는 도로표지를 인식할 필요 없이 모든 도로규칙을 알고 있는 서버의 암호화된 통신 등 앞으로 다른 채널에서 이 정보를 수집해야 한다고 할 수 있습니다.유감스럽게도, 그러한 시스템을 전세계에 배치하는 데에는 상당한 시간이 걸릴 것입니다. 역시 도로표지가 불필요해도 차량은 다른 차와 보행자를 효과적으로 감지해야 한다. 여기에서 개체 검지 및 의미 분할 알고리즘이 작동하지만, 2가지 모드 외의 딥 러닝 알고리즘과 마찬가지로 상대 공격에 취약하다.센트럴 플로리다 대학(University of Central Florida) 연구진은 차량을 위장해 감춘 현실성을 분석했습니다. 물체탐지기를 우회한다는 생각은 새로운 것이 아니라 후디니(Houdini 옮김: 탈출에 유명한 곡예사) 공격으로 처음 제시됐습니다. 그래도 이번 연구에서는 자율주행을 노린 실용적인 사례를 기술하고 있는 점에 유의해야 한다.시맨틱 세분화 시스템(Semantic Segmentation Systems) 시맨틱 세분화란 자동차가 다른 물체의 가장자리를 감지할 수 있도록 하는 AI 작업입니다. 옥스퍼드 대학교(University of Oxford) 연구원들은 그들이 어떻게 의미분할 시스템에 대한 실제 공격을 성공시켰는지를 보여주는 연구를 발표했습니다. 이로 인해 그러한 공격은 인간의 인생에 실질적인 위험을 줄 수 있다.킨시큐리티 랩(Keen Security Lab) 연구진은 도로에 짝퉁 차선을 만드는 스티커만 여러 개 붙여놓아도 하나부 자율주행차가 속아 넘어갈 수 있다고 밝혔습니다. 이 연구 동안 이 차의 자율주행 시스템은 스티커를 원래 있던 차선의 연장선으로 인식했고, 이로 인해 차가 다가오는 차선으로 바뀌었습니다.소음성 인식 시스템(Voice Recognition Systems)은 아쉽지만 시간적 인식만이 자율주행 차량에 대한 공격 요소가 아닙니다. 차량은 라디오에서 나빠지는 잘못된 형식의 명령을 인식함으로써 속할 수 있습니다. 차이나의 Zhejiang University 보안 연구팀이 소음성 인식 시스템에 악의적인 명령을 보내 침묵 공격을 할 수 있는 돌핀 어택(Dolphin Attack) 소음향 기법을 발명했습니다. 해커들은 역시 어떤 상대방의 공격을 담은 마케팅 메시지를 라디오에 보내 자율주행 모드로 도로를 어지럽힐 수도 있습니다.라이다(LiDAR) 자율주행차의 대부분은 LiDAR라는 특별한 시스템을 갖고 있는데 이는 빛의 탐지 및 반경을 의미한다. 이 채널은 주변 물체에 대한 거리를 측정하기 위한 것으로 운전자의 의지만으로는 비활성화가 불가능하기 때문에 주로 인지 도구로 사용됩니다.​ 20일 9년 7월 미시간 대학(University of Michigan)연구원들은 LiDAR시스템에 대한 실제 공격에 대한번째 논문을 발표했습니다.LiDAR의 해킹 방식은 딥러닝 모델의 한 해킹 방법과 비슷했지만 LiDAR 기능만 조금 수정했습니다. 여기에는 적대적인 신호나 후처리 제한의 도입을 위한 레이저 다이오드 사용이 포함됩니다.​

>

뭘 해야 하나? (What Should Be Done?) 제 경험으로 볼 때 자율주행차는 다른 사물인터넷(IoT) 솔루션과 마찬가지로 소프트웨어가 나쁘지 않고 하드웨어의 취약성이 없어야 합니다. 더 중요한 것은 백엔드의 알고리즘이 안전하다는 것을 확실히 해야 한다는 것입니다. 많은 사람들이 하드웨어, 소프트웨어, 무선 보안을 다소 정당화하고 있지만 알고리즘의 보안에 대한 충분한 주의가 요구되고 있습니다. 딥러닝 등 기계학습 기술은 적대사례, 오염, 사생활문제, 백도어 등 모든 AI의 위협에 대해 테스트해야 합니다.자율주행을 주제로 한 보안 관련 기사가 잇따르고 있습니다. 자율주행차는 가장 가깝고 소중한 사람의 생명을 보호하는 책들이기 때문에 우리 모두는 자동차가 실제 출시되기 전에 업계를 돕고, 판매업자에게 이런 문제를 해결하게 하는 책입니다. 끼어들기=이번 제 소식은 제가 별로 변하지 않았던 자율주행차의 보안(Security)에 관한 뉴스입니다. 기술적인 이야기를 전할 때는, 그다지 전문적이지 않고, 깊은 이야기는 피하려고 합니다. 저는 자율주행차에 대해서 일반적이고 쉽게 접근할 수 있는 기회를 공급하는 것을 목표로 하고 있기 때문에 보편적인 이야기가 많이 있습니다. 그래도 가끔씩은 기술적인 부분에 대해서도 한번 느끼는 시간을 갖는 것이 좋다고 생각하기 때문에 가끔 조금 이야기적으로 어려운 것도 선택은 합니다. 이공지는자율주행차보안에대해서정내용의얼핏정도의글이기도하고어떤이야기가위험요소가되는지를소개하는것이었습니다.지금까지 자율주행차의 보안에 관한 내용을 실시하지 않았던 것은 아닙니다. 많은 부분이 Connectivity, 즉 자율주행차와 외부통신으로 인한 보안위험에 대해 많았던 것 같습니다. 아무래도 폐쇄적인 시스템보다는 외부에 노출된 시스템은 보안에 취약한 부분이 반드시 있습니다. 자율주행차는 주변 물품과의 정보를 교환함으로써 보다 안전한 운행을 시도하고 있습니다. 하지만 이 공지는 그러한 외부 통신 보안에 관한 이야기가 아니라 자율주행차에 내장된 시스템의 보안에 관한 것이었습니다. 이것과 관련된 소식은 별로 접하지 못했던 것 같습니다. 나쁘지 않은 의미가 있는 것 같아서 선정했어요.Camera, LiDAR 뿐만 아니라 Radio를 통해 자동차 시스템에 접근하여 제어하는 것까지 다양한 방식의 위험 요소를 소개하고 있습니다. 아무래도 Camera의 사물 인식에 따른 문제점은 자율주행차뿐만 아니라 사물 인식 AI의 문제점에서 출발하고 있습니다... 휴대전화에 있는 사물의 인식은 사람을 해치지 않아요. 사용자 판단에 참고가 되는 기능일 뿐입니다. 그러나 자율주행차에게 잘못된 인식은 바로 문제로 이어질 수 있는 매우 위험합니다. Tesla를 필두로 몇 개의 자율주행 기술을 이용하려는 Aftermarketkit 판매의 작은 기업들은 Camera만을 이용한 주변 인식 기술을 소개하고 있습니다. 아무리 해도 높은 LiDAR를 적용할 수는 없으니까요. 하지만 아직은 완벽한 기술이라고 할 수 없어요. Camera의 실수는 가라앉기 때문에, 바로 연결되는 위험·부다의 소리를 많이 가지고 있습니다... 저번에도 Tesla의 잘못된 중앙분리대 인식으로 문재가 나올 뻔한 영상을 본 적이 있습니다. Camera 기술에 의존한 ADAS입니다.LiDAR의 해킹 기회 관련 내용에 대해서는 이번에 대처하겠습니다. 하지만 서서히 자율주행차가 본격적으로 세계에 등장하기 위한 시간이 다가오면서 잘 움직일 수 있는 자율주행차가 아니라 더 위험하다. 요소에 대한 경고도 점점 많이 나오고 있다. 현재 자동차 제조업체들은 자율주행차에 Connectivity라는 개념이 포함되어 현재 사람이 직접 하던 행동을 자동으로 변경시키기 위해 노력하고 있습니다. 특히 돈에 관련된 부분도 포함되어 있습니다... 이런 시스템을 위해 블록체인 기술을 자율주행차에 적용하기 위한 노력을 계속하고 있습니다. 그래서 이번 문장에서도 강조하고 있지만, 대부분의 프로그램에는 'Back-'이라는 용어가 사용되고 있는 숨은 기술이 있습니다. 이곳을대부분해커들이대상으로합니다. 이 부분에 대한 명확한 통제와 보안은 절대적으로 필요할 것입니다.사람이 더 편리한 세상을 만나 아름답지 않기 위한 수많은 복잡한 기술이 필요한 것 같습니다. 하지만 언젠가는 만날 수 없게 될 거예요. 당시에는이미이런느낌은어느정도해결되었어야합니다. 그래야 보통 사람들이 자율주행을 이용할 수 있을 겁니다. 예를 들어, 이런 부분에 대해서 제대로 해결을 하지 않고 적용된 기술의 글재주는 이미 우리가 경험했습니다.아래 동영상은 자율주행차를 잡을 수 있는 함정으로 소개된 영상입니다. ㅋ

p.s 검색으로 보시고 만약 원하시는 내용을 보시지 않으셨다면 '태그' 또는 '검색'을 해보시면 더 많은 자료를 보실 수 있습니다. 그래도 찾으신 내용이 없다면 저에게 연락 주시면 (이메일, 편지) 제가 아는 범위 내에서 도와드리도록 하겠습니다. 아무것도 가지지 않아도 됩니다.Over the Vehicle!!!참고 자료

​