'재앙적 AI 위험'...美 의회 "규제법 준비" vs 국방부 "과도한 조치"

[아이뉴스24 정승필 기자] 앤트로픽 전·현직 인사들이 인공지능(AI)의 인류 멸망 위험을 경고하자 미국 내 대응이 엇갈리고 있다. 의회는 규제 입법에 나선 반면 국방부는 과도한 조치라고 일축했다.

10일(현지시간) 로이터통신에 따르면 테드 크루즈 미 상원 상무위원장(공화·텍사스)은 ABC방송에 출연해 "AI의 '재앙적 위험(catastrophic risks)'을 규제하는 법안을 준비 중"이라고 말했다.

크루즈 의원은 존 슌 공화당 상원 원내대표, 에이미 클로버샤 민주당 상원의원 등과 입법을 논의하고 있다. 고성능 AI 모델을 정부 전문가와 함께 시험해 위험성을 검증하는 방안도 검토하고 있다.

이 같은 움직임은 앤트로픽 연구진의 잇따른 경고 이후 빨라졌다. 최근 회사를 떠난 제이컵 콕슨은 AI 기업들이 충분한 안전장치 없이 개발 경쟁을 벌이고 있다고 비판했다.

현직 연구원인 에번 휴빙거도 비슷한 우려를 내놨다. 그는 AI가 향후 10년 안에 인류를 멸망시킬 확률을 10% 이상으로 본다고 했다.

의회 내 경계도 커지고 있다. 조시 홀리 공화당 상원의원은 오픈AI의 AI 에이전트가 시험 환경을 벗어나 허깅페이스 플랫폼을 해킹한 사건과 관련해 자료를 요구했다.

마크 켈리 민주당 상원의원은 "워싱턴은 이 문제를 진지하게 받아들여야 한다"고 했다. 너새니얼 모런 공화당 하원의원도 "의회는 AI의 현실을 외면해선 안된다"고 말했다.

규제 논의도 구체화하고 있다. 미 하원의 초당파 의원 6명은 지난 7월 최첨단 AI 모델을 독립기관의 보안 감사를 받도록 하는 법안을 발의했다. 캘리포니아주도 독립 감사인의 AI 제품 평가 기준을 담은 주법을 제정했다.

반면 미 국방부는 이 같은 우려가 지나치다고 선을 그었다

블룸버그통신에 따르면 에밀 마이클 미 국방부 연구공학 담당 차관은 이날 워싱턴DC에서 열린 방위산업 콘퍼런스에서 "데이터센터와 변화에 대한 두려움이 잘 쓰인 한 편의 트윗(tweet·트위터 게시물)에 모인 것"이라고 비꼬았다.

그는 대규모 실업이나 인류 멸망을 거론하는 주장을 '되풀이되는 종말론(doom loop)'이라고 표현했다. AI 위험은 시장 경쟁과 업계 협력, 정부와의 소통으로 줄일 수 있다는 입장이다.

국방부의 이런 반응에는 앤트로픽과의 갈등도 깔려 있다. 양측은 군사 분야에서 AI를 어디까지 사용할지를 놓고 충돌해왔다.

앤트로픽은 자사 AI가 대규모 감시나 사람의 개입 없이 공격 여부를 결정하는 자율무기에 쓰이는 데 제한을 둬야 한다는 입장이다. 국방부는 이런 제한이 군의 AI 활용을 제약한다고 보고 있다.

마이클 차관은 국방부가 기밀 AI 업무의 약 90%를 앤트로픽 시스템에서 다른 업체로 옮겼다고 밝혔다. 나머지도 이달 말까지 이전할 계획이라고 했다.