[AI 안전 서약서]_AI타임스_뉴스기사('23.07.21)

https://www.aitimes.com/news/articleView.html?idxno=152548 

MS·구글·오픈AI, 'AI 안전 서약서' 발표 예정 - AI타임스

인공지능(AI) 빅테크들

• 미국 정부가 요청한 AI 안전 서약서에 서명, 공식 발표할 것으로 알려짐
• 지난 5월 백악관에서 열린 AI 정책 토론회에 따른 것
• 강제성 없는 '자발적 선언'

블룸버그(정통한 소식통 인용)

• 마이크로소프트(MS), 구글, 오픈 AI 등
• 백악관이 요청한 공개 서약서를 발표할 예정
• 5월 카멀라 해리스 부통령과의 백악관 토론회에는 앤트로픽까지 포함해 기업 4곳이 참가

7월 21일 발표할 서약서

• AI를 책임 있고 안전하게 사용할 것을 약속하는 8개 조항을 포함

1. 별도의 전문가로 구성한 'Red Team'을 구성, AI 오남용을 모니터링하는 방안
2. 정부 및 기업에 신뢰 및 안전 정보를 공유하는 안
3. 딥페이크를 방지하기 위해 AI의 이미지 및 오디오 생성 파일에 워터마크를 포함하는 안
4. 사이버 보안에 투자하는 안
5. 보안 취약점을 기업에 공지하는 안
6. AI의 환각(Hallucination) 및 편향성 문제를 보고하는 안
7. AI의 사회적 위험에 대한 연구를 우선하는 안
8. 최첨단 기능을 갖춘 '프런티어 모델'을 활용해 사회 문제를 우선 해결하는 안

그러나 법적 구속력이 없는 '약속'에 불과

• 하지만 백악관은 발표 자체에 의미를 두는 분위기

제프 지엔츠 백악관 비서실장

규제 절차는 상대적으로 느릴 수 있다. 우리는 1~2년을 기다릴 여유가 없다.

 

실제 미 의회와 정부

• AI 규제안을 마련하기 위해 지난해말부터 프레임워크를 내놓고 업계 의견을 청취
• 하지만 뚜렷한 결과물을 내놓지 못함

의회의 경우

• 올말까지 관련 법안을 내놓는다는 방침
• 그러나 법 발효까지는 최소 1~2년을 기다려야 함

EU(유럽연합)은 물론 영국, 프랑스, 중국 등

• 세계 각국이 AI 규제에 드라이브를 거는 분위기
• 그러나 정작 주요 기업을 보유한 미국은 이를 따라잡는 모양새
• 그래서 일단 기업이 스스로 약속을 내놓도록 조치