전 OpenAI 직원인 William Saunders와 Daniel Kokotajlo 는 Gavin Newsom 캘리포니아 주지사에게 편지를 보내 향후 AI 개발에 대해 엄격한 안전 지침과 프로토콜을 부과하는 주 법안에 대한 회사의 반대가 실망스럽기는 하지만 놀라운 것은 아니라고 주장했습니다.
Saunders와 Kokotajlo는 "우리는 회사에서 개발 중인 믿을 수 없을 만큼 강력한 AI 시스템의 안전성을 보장하고 싶었기 때문에 OpenAI에 합류했습니다."라고 썼습니다. "그러나 우리는 OpenAI가 AI 시스템을 안전하고 정직하며 책임감 있게 개발할 것이라는 신뢰를 잃었기 때문에 OpenAI를 사임했습니다."
두 사람은 충분한 가드레일이 없는 추가 개발은 "전례 없는 사이버 공격이든 생물학 무기 개발 지원이든" "대중에게 치명적인 해를 끼칠 예측 가능한 위험을 초래한다"고 주장합니다.
두 사람은 또한 규제 문제에 대한 OpenAI CEO인 Sam Altman의 위선을 재빠르게 지적했습니다. 그들은 AI 산업에 대한 규제를 촉구하는 그의 최근 의회 증언을 지적하지만 “실제 규제가 테이블 위에 있을 때 그는 그것에 반대한다”고 지적합니다.
MITRE 기업과 Harris Poll이 실시한 2023년 설문 조사에 따르면 응답자의 39%만이 오늘날의 AI 기술이 "안전하고 안전하다"고 믿었습니다.
문제의 법안인 SB-1047( 미개척 인공 모델을 위한 안전하고 안전한 혁신법)은 “무엇보다도 개발자가 해당 모델을 처음 훈련하기 전에 … 기능 구현을 포함한 다양한 요구 사항을 준수하도록 요구합니다. 즉각적으로 완전 폐쇄를 시행하고, 서면으로 작성된 별도의 안전 및 보안 프로토콜을 구현해야 합니다.” OpenAI는 최근 몇 년 동안 여러 차례의 데이터 유출 과 시스템 침입을 겪었습니다.
대변인이 Business Insider에 전한 것처럼 OpenAI는 연구원들이 "SB 1047에 대한 우리 입장을 잘못 해석한 것"에 강력히 동의하지 않는 것으로 알려졌습니다. OpenAI의 최고 전략 책임자인 제이슨 권(Jason Kwon)은 서신에서 “오픈AI는 주법을 엮는 것이 아니라 연방 주도의 일련의 AI 정책이 혁신을 촉진하고 미국이 글로벌 표준 개발을 주도할 수 있게 될 것”이라고 주장했습니다. 지난 2월 캘리포니아 주 상원의원 스캇 위너(Scott Wiener).
Saunders와 Kokotajlo는 OpenAI의 연방 규제 추진이 선의가 아니라고 반박합니다. “우리는 의회가 조치를 취하기를 기다릴 수 없습니다. 그들은 의미 있는 AI 규정을 통과시킬 의향이 없다고 명시적으로 밝혔습니다.”라고 두 사람은 썼습니다. "만약 그렇게 한다면 CA 법안을 선점할 수 있습니다."
이 법안은 놀라운 출처인 xAI CEO Elon Musk로부터도 지지를 얻었습니다. 그는 월요일 X에 "이것은 힘든 결정이고 일부 사람들을 화나게 할 것입니다. 그러나 모든 것을 고려하면 캘리포니아는 아마도 SB 1047 AI 안전 법안을 통과시켜야 한다고 생각합니다"라고 썼습니다 . “20년 넘게 저는 잠재적 위험이 있는 모든 제품/기술을 규제하는 것처럼 AI 규제를 옹호해 왔습니다.” 최근 테네시주 멤피스에 '세계에서 가장 강력한 AI 훈련 클러스터' 건설을 발표한 머스크는 이전에 캘리포니아의 산업 규제를 피하기 위해 자신의 X(이전 트위터)와 SpaceX 회사의 본사를 텍사스로 이전하겠다고 위협한 바 있습니다 .
업데이트: 이 게시물은 Elon Musk의 댓글을 포함하도록 업데이트되었습니다.