오픈AI와 앤트로픽이 AI 보안사고 수만 건을 조사하며, 오픈AI는 최고 성능 모델 훈련을 일시 중단했습니다.

오픈AI와 앤트로픽이 AI 보안사고 수만 건을 조사하며, 오픈AI는 최고 성능 모델 훈련을 일시 중단했습니다. 조사 대상 사고는 최근 수개월간 발생했으며, 외부 공개 사건보다 수십에서 수백 배 많습니다. 오픈AI 대변인은 추가 안전장치 확보와 정렬 개선 확인 시에만 훈련을 재개할 것이라고 밝혔습니다.

오픈AI는 제3자 안전 기구에 AI 모델 행동 검토를 의뢰했습니다. 주요 AI 기업 보안 임원은 완벽한 기준 설정이 헛된 노력일 수 있다고 지적했습니다. 트랜스루스 연구원은 현재 확인된 사고는 빙산의 일각에 불과하다고 경고했습니다.