OpenAI , Google Deep Mind 및 Anthropic의 전직 직원 12명이 화요일 공개 서한을 게시하여 효과적인 감독 프레임워크 없이 기술을 계속해서 빠르게 개발함으로써 발생하는 "심각한 위험"에 주의를 환기시켰습니다.
연구진은 이 기술이 기존의 불평등을 악화시키고, 정보를 조작하고, 허위 정보를 퍼뜨리는 데 오용될 수 있으며, 심지어 "자율 AI 시스템의 통제력 상실로 인해 잠재적으로 인류가 멸종될 수 있다"고 주장합니다.
서명자들은 이러한 위험이 과학계, 입법자 및 대중의 공동 노력을 통해 "적절하게 완화"될 수 있다고 믿지만 "AI 회사는 효과적인 감독을 피하기 위한 강력한 재정적 인센티브를 가지고 있으며" 공정하게 관리할 수 없다고 우려합니다. 기술의 발전.
2022년 11월 ChatGPT 가 출시된 이후 생성 AI 기술은 Google Cloud, Amazon AWS, Oracle, Microsoft Azure와 같은 하이퍼스케일러를 통해 컴퓨팅 세계를 휩쓸었으며 2032년까지 1조 달러 규모의 산업이 될 것으로 예상됩니다 . McKinsey의 최근 연구에 따르면 2024년 3월 현재 조사 대상 조직 중 거의 75%가 적어도 한 가지 역량에 AI를 채택한 것으로 나타났습니다. 한편, 연례 업무 지수 조사에서 마이크로소프트는 사무직 근로자의 75%가 이미 직장에서 AI를 사용하고 있는 것으로 나타났습니다.
그러나 OpenAI의 전 직원인 Daniel Kokotajlo는 The Washington Post에 다음과 같이 말했습니다. “그들과 다른 사람들은 '빠르게 움직이고 파괴하는' 접근 방식을 받아들였습니다. 이해했다." 예를 들어, OpenAI 및 Stable Diffusion 을 포함한 AI 스타트업은 반복적으로 미국 저작권법을 위반했으며, 공개적으로 사용 가능한 챗봇은 정기적으로 증오심 표현 및 음모 이론을 반복 하고 잘못된 정보를 퍼뜨리도록 유도됩니다.
반대하는 AI 직원들은 이들 회사가 모델의 해를 입힐 수 있는 잠재적 위험과 보호 가드레일이 실제로 얼마나 효과적인지를 포함하여 제품 기능과 한계에 대한 "실질적인 비공개 정보"를 보유하고 있다고 주장합니다. 그들은 이 정보 중 일부만이 "공유 의무가 약하기 때문에" 정부 기관에 제공되며 그 중 어느 것도 일반 대중에게 제공되지 않는다고 지적합니다.
“이러한 기업에 대한 효과적인 정부 감독이 없는 한, 현직 및 전직 직원은 대중에게 책임을 물을 수 있는 소수의 사람 중 하나입니다.”라고 이 그룹은 말하면서 업계가 기밀 유지 계약을 광범위하게 사용하고 보안 계약 이행이 취약하다고 주장했습니다. 기존 내부고발자 보호가 이러한 문제를 방해하고 있습니다.
이 단체는 AI 기업들에게 비방 협약 체결 및 집행을 중단하고, 직원들이 회사 이사회 및 정부 규제 기관에 우려 사항을 해결할 수 있는 익명 프로세스를 구축하고, 이러한 내부 프로세스가 불충분한 경우 공공 내부고발자에 대해 보복하지 말 것을 촉구했습니다. .