바이든-해리스 행정부는 미국의 가장 중요한 소프트웨어를 보호하기 위해 인공지능(AI)을 활용하는 대규모 2년간의 경쟁 프로그램인 ‘AI 사이버 챌린지(AI Cyber Challenge, AIxCC)’를 오늘 공식적으로 출범했습니다. 이 챌린지는 인터넷 및 중요한 인프라를 운영하는 코드와 같은 소프트웨어의 취약점을 AI를 통해 찾아내고 수정하는 것을 목표로 하고 있습니다. 이 대회는 미 국방고등연구계획국(DARPA)이 주도하며, Anthropic, 구글, 마이크로소프트, OpenAI 등 여러 선도적인 AI 기업들이 협력하여 그들의 최첨단 기술을 이번 챌린지에 제공할 예정입니다.
이번 대회는 거의 2,000만 달러에 이르는 상금이 걸려 있으며, 컴퓨터 코드의 보안을 신속하게 개선할 수 있는 새로운 기술을 개발하는 데 기여할 것입니다. 이는 바이든-해리스 행정부가 책임 있는 신기술 발전과 미국 국민 보호를 위해 취하는 최신 조치로, AI 기술이 안전하게 개발되고 관리될 수 있도록 하는 중요한 이정표가 될 것입니다.
AIxCC의 출범과 그 중요성
AIxCC의 출범은 미국 최대의 해킹 컨퍼런스인 블랙햇(Black Hat) USA 컨퍼런스에서 발표되었습니다. 블랙햇은 수십 년 동안 다양한 사이버 보안 혁신을 이끌어온 행사로, AIxCC는 이러한 전통을 이어받아 소프트웨어의 취약점을 자동적이고 확장 가능한 방식으로 발견하고 수정하는 AI의 잠재적 이점을 증명할 것입니다. 이 대회는 미국의 전력망부터 일상생활을 지원하는 교통 시스템에 이르기까지, 인터넷과 사회 전반에서 사용되는 소프트웨어를 보호하는 데 중요한 역할을 할 것으로 기대됩니다.
대회 구조 및 일정
DARPA는 중요한 소프트웨어를 가장 효과적으로 보호하는 경쟁자가 수백만 달러의 상금을 받게 되는 오픈 경쟁을 개최할 예정입니다. AI 기업들은 이번 대회를 위해 세계에서 가장 강력한 AI 시스템 중 일부를 경쟁자들이 새로운 사이버 보안 솔루션을 설계하는 데 활용할 수 있도록 제공합니다. 또한, AIxCC는 중소기업들이 공정하게 경쟁에 참여할 수 있도록 700만 달러를 추가로 지원할 계획입니다.
참가 팀들은 2024년 봄에 열리는 예선에서 경쟁하게 되며, 이 중 상위 20개 팀이 2024년 세계 최고의 사이버 보안 컨퍼런스 중 하나인 DEF CON에서 열리는 준결승전에 초대됩니다. 준결승에서 상위 5개 팀은 상금을 받고, 2025년 DEF CON에서 열리는 결승전에 진출하게 됩니다. 최종 대회에서 상위 3위에 오른 경쟁자들은 추가적인 상금을 수여받게 됩니다.
미국 및 글로벌 사이버 보안에 미치는 영향
이번 대회의 상위 경쟁자들은 미국 및 전 세계의 사이버 보안에 큰 영향을 미칠 것으로 예상됩니다. 리눅스 재단의 프로젝트인 오픈 소스 보안 재단(Open Source Security Foundation, OpenSSF)이 챌린지의 자문 역할을 맡아, 우승한 소프트웨어 코드가 즉시 미국의 중요한 소프트웨어 보호에 활용될 수 있도록 지원할 예정입니다.
책임 있는 AI 개발을 위한 행정부의 노력
오늘 발표된 AIxCC는 바이든-해리스 행정부가 AI의 힘을 국가의 주요 과제를 해결하는 데 활용하고, AI가 안전하고 책임감 있게 개발될 수 있도록 하겠다는 폭넓은 약속의 일환입니다. 지난달, 바이든-해리스 행정부는 7개의 주요 AI 기업으로부터 기술의 위험을 관리하기 위한 자발적인 약속을 확보했다고 발표했습니다. 또한, 올해 초, 행정부는 여러 AI 기업이 DEF CON 2023에서 대규모 언어 모델(LLM)에 대한 독립적이고 공개적인 평가에 참여할 것을 약속했다고 발표했습니다. 이 평가 프로그램은 다중 LLM의 첫 번째 공개 평가로, 안전하고 투명한 AI 개발을 촉진하는 데 기여할 것입니다.
추가적으로, 바이든-해리스 행정부는 현재 AI 혁신을 책임감 있게 선도하기 위한 행정명령을 개발 중이며, 초당적 입법을 추진할 계획입니다.
웹사이트 주소: 미 국방고등연구계획국(DARPA)
<이하 광고>