미중 갈등 속, 주요 국가들 AI 보안 협약 체결

미국, 영국, 일본 등 주요 강대국, AI 보안 협정 체결

18개국 22개 법 집행 및 정보 기관이 지난 주말에 AI 안전에 관한 국제 협정에 서명했습니다. 이 협정은 새로운 버전의 AI 기술을 ‘설계 단계부터 안전하게’ 만드는 것을 목표로 하며, AI 시스템의 남용을 모니터링하고 데이터를 보호하며 소프트웨어 공급업체를 심사하기 위한 권장 사항을 포함하고 있습니다. 하지만 이 협정에서 AI 개발 강국인 중국은 제외되었습니다.

EU AI 법안과 바이든의 행정명령

이 합의는 유럽 연합이 특정 AI 기술을 금지하고 고위험 AI 시스템을 분류하는 EU AI 법에 서명한 지 몇 달 후에 이루어졌습니다. 미국에서는 조 바이든 대통령이 10월에 AI 개발을 규제하는 행정 명령에 서명했습니다. 이 명령에 따르면 강력한 AI 모델 개발자는 안전 결과와 중요 정보를 정부와 공유해야 합니다.

우려 및 소송

이 협약은 AI 시스템의 안전하고 책임감 있는 개발, 배포 및 운영의 필요성을 강조합니다. 이 협약은 AI 시스템이 적대적 머신 러닝을 비롯한 새로운 보안 취약점에 노출될 수 있음을 인정합니다. 적대적 머신 러닝은 머신 러닝 구성 요소의 취약점을 전략적으로 악용하는 것으로, 잠재적으로 AI 시스템을 중단시키거나 속일 수 있습니다.

AI 보안 협정은 구속력이 없지만 일반적인 권장 사항을 제공합니다. 그러나 AI의 적절한 적용이나 AI 데이터 모델에 대한 데이터 수집 방법과 관련된 복잡한 문제는 다루지 않습니다. 미국 내에서는 AI 모델의 저작권법 준수 여부에 대한 민사 소송이 진행 중입니다. 저자들은 저작권 침해 및 지적 재산권 위반을 주장하며 OpenAI와 Microsoft를 고소하고 있습니다.

중국의 배제와 글로벌 영향

AI 개발의 주요 국가인 중국은 AI 보안 협정에 서명하지 않았습니다. 중국은 AI 개발에 필요한 고성능 실리콘에 대한 접근을 제한하는 무역 제재를 받고 있습니다. TSMC의 회장은 중국을 협정에서 제외하면 전 세계적으로 혁신이 둔화되고 세계화가 파편화될 것이라고 주장합니다.

AI 소송의 미래

AI 소송의 미래는 여전히 불확실합니다. OpenAI와 다른 피고들은 소송에서 당사자 지위 부족 및 공정 사용 원칙과 같은 방어 전략을 활용하고 있습니다. 법원은 초기 AI 소송 사건에 회의적으로 접근하고 있습니다. AI가 전통적인 크리에이티브 및 저널리즘 산업에 미치는 영향에 대한 우려가 커지고 있습니다.

전반적으로 주요 강대국들이 서명한 국제 AI 보안 협정은 안전하고 책임감 있는 AI 개발의 중요성을 강조하고 있습니다. 그러나 중국이 제외되고 법적 문제가 계속되고 있어 이러한 협정의 실효성과 향후 영향에 대한 의문이 제기되고 있습니다.