인기 있는 ChatGPT 생성 AI 솔루션의 핵심인 OpenAI는 2024년 현재까지 전 세계적으로 20개 이상의 운영과 부정직한 네트워크를 차단했다는 보고서를 발표했습니다. 이 작업은 목적, 규모 및 초점이 달랐으며 악성 코드를 생성하고 가짜 미디어 계정, 가짜 약력 및 웹 사이트 기사를 작성하는 데 사용되었습니다.
OpenAI는 중지한 활동을 분석하고 분석을 통해 핵심 통찰력을 제공했음을 확인합니다. 보고서는 “위협 행위자들은 계속해서 우리 모델을 발전시키고 실험하고 있지만, 이것이 실질적으로 새로운 악성 코드를 생성하거나 입소문을 타는 대상을 구축하는 능력에서 의미 있는 혁신으로 이어진다는 증거를 보지 못했습니다”라고 밝혔습니다.
올해는 미국, 르완다, 인도, 유럽연합 등 다양한 국가에서 선거가 있는 해라는 점을 고려하면 이는 특히 중요합니다. 예를 들어, 7월 초 OpenAI는 X(이전의 Twitter)의 여러 계정에서 게시된 르완다 선거에 대한 댓글을 작성한 여러 계정을 금지했습니다. 따라서 위협 행위자들이 캠페인을 통해 큰 진전을 이룰 수 없었다고 OpenAI가 밝혔습니다.
OpenAI의 또 다른 승리는 OpenAI 직원의 회사 및 개인 주소를 스피어 피싱으로 시도한 "SweetSpecter"로 알려진 중국 기반 위협 행위자를 방해하는 것입니다. 보고서는 계속해서 지난 8월 마이크로소프트가 "STORM-2035"로 알려진 이란의 은밀한 영향력 행사의 소행으로 간주되는 일련의 도메인을 노출했다고 밝혔습니다. “그들의 보고를 바탕으로 우리는 ChatGPT에서 관련된 일련의 활동을 조사, 방해 및 보고했습니다.”
OpenAI는 또한 모델이 만든 소셜 미디어 게시물이 댓글, 좋아요 또는 공유를 거의 또는 전혀 받지 못했기 때문에 많은 관심을 받지 못했다고 말합니다. OpenAI는 위협 행위자가 유해한 목적을 위해 고급 모델을 사용하는 방법을 계속 예측하고 이를 중지하기 위해 필요한 조치를 취할 계획을 보장합니다.