어제 WWDC 2024에서 Apple Intelligence가 데뷔하는 동안 소프트웨어 엔지니어링 수석 부사장 Craig Federighi는 새로운 기능의 보안과 민감한 사용자 데이터의 섬세한 처리를 반복해서 강조했습니다. 사용자 개인정보를 보호하기 위해 Apple Intelligence는 많은 생성 작업을 기기에서 수행합니다. 그리고 온보드 기능을 초과하는 경우 시스템은 회사가 새로 개발한 프라이빗 클라우드 컴퓨팅(PCC)으로 작업을 전송합니다.
그러나 볼티모어에 있는 존스 홉킨스 대학의 컴퓨터 과학 부교수인 매튜 그린(Matthew Green) 박사가 월요일 스레드에서 질문했듯이 Apple의 AI 클라우드는 안전할 수 있지만 신뢰할 수 있습니까?
Apple Intelligence는 다양한 앱에서 이미지를 생성하고, 글을 편집하고, 사용자를 대신하여 작업을 수행할 수 있는 최첨단 생성 모델을 통해 iPhone, iPad 및 Mac을 강화할 것을 약속합니다. Apple 장치는 이미 수년 동안 장치 내에서 기계 학습 작업을 수행해 왔습니다. 카메라 롤의 검색 기능과 OCR(광학 문자 인식) 텍스트 인식을 예로 들어 보겠습니다. 그러나 Green이 지적했듯이 최신 세대의 Apple 프로세서조차도 온라인에서 발생하는 더 복잡하고 리소스 집약적인 일부 AI 작업을 처리할 만큼 강력하지 않아 클라우드 컴퓨팅 서버를 사용해야 합니다.
문제는 이러한 복잡한 모델이 추론 기능을 수행하기 위해 사용자 데이터에 암호화되지 않은 액세스가 필요하며 해당 데이터를 퍼블릭 클라우드로 전송하면 해킹, 유출 또는 완전히 도난당할 위험이 있다는 것입니다. Apple의 솔루션은 Apple Intelligence 데이터 처리를 위해 특별히 자체적으로 강화된 독립형 데이터 센터인 PCC를 구축하는 것이었습니다. 최근 Apple 보안 블로그 게시물 에 따르면 이 "획기적인 클라우드 인텔리전스 시스템"은 "업계 최고의 Apple 장치 보안 및 개인 정보 보호 기능을 클라우드로 확장하여 PCC로 전송된 개인 사용자 데이터가 다른 사람이 접근할 수 없도록 합니다. 사용자는 — Apple에게도 마찬가지입니다.”
문제는 최신 전화 "신경" 하드웨어가 개선되고 있지만 생성 AI와 그 유사품을 포함하여 실리콘 밸리가 현대 AI에서 원하는 모든 놀라운 기능을 활용할 만큼 빠르게 개선되지 않는다는 것입니다. 이를 위해서는 근본적으로 서버가 필요합니다. 삼/
— 매튜 그린(@matthew_d_green) 2024년 6월 10일
그러나 실제로는 개인 정보 보호를 보장하는 것이 훨씬 더 어렵습니다. Green은 “신뢰할 수 있는 컴퓨터를 구축하는 것은 말 그대로 컴퓨터 보안에서 가장 어려운 문제입니다.”라고 썼습니다. "솔직히 컴퓨터 보안에 있어 거의 유일한 문제입니다." 그는 보안 부팅, "상태 비저장" 소프트웨어, SEP(Secure Enclave Processor)를 포함하여 모바일 및 데스크톱 장치에 내장된 동일한 보안 기능 중 상당수를 새로운 서버에 적용하고 "모든 종류의 보안 기능을 도입한 것에 대해 회사를 칭찬했습니다. 하드웨어가 변조되지 않았는지 확인하기 위해 서버 하드웨어에서 프로세스를 수행합니다."
Apple은 서버에서 실행되는 소프트웨어가 합법적인지 확인하기 위해 많은 노력을 기울였습니다. 요청이 완료되자마자 PCC 노드에서 모든 사용자 데이터를 자동으로 삭제하고 장치의 운영 체제가 어떤 소프트웨어 이미지인지 "증명"할 수 있도록 했습니다. 달리기.
“우수한 팀에게 막대한 돈을 주고 세계 최고의 '프라이빗' 클라우드를 구축하라고 한다면 아마도 이런 모습일 것입니다.”라고 Green은 썼습니다. “하지만 이제 어려운 질문이 남았습니다. 좋은 생각인가요? 오늘날 Apple이 하는 것만큼 안전합니까?” 사용자가 이를 거부할 수 있습니까? 사용자가 새 서비스를 선택하지도 않을 것 같습니다. “그런 일이 일어나고 있다는 말조차 꼭 듣지는 않을 것입니다.”라고 그는 계속 말했습니다. “그냥 일어날 거예요. 마술처럼. 나는 그 부분을 좋아하지 않는다.”
Green은 계속해서 해커가 사용자 데이터에 가장 큰 위협을 가하는 것이 아니라 하드웨어 및 소프트웨어 회사 자체라고 주장합니다. 따라서 "이 PCC 시스템은 사용자의 데이터를 '훔쳐보지' 않겠다는 Apple의 진정한 약속을 나타냅니다."라고 Green은 결론지었습니다. “큰일이네요.”
Apple Intelligence는 올 여름 말부터 출시를 시작할 것으로 알려졌습니다. 그리고 앞으로 몇 주 안에 Apple은 PCC 소프트웨어와 가상 연구 환경을 처음으로 살펴보기 위해 보안 연구원을 초대할 계획입니다.