멈추거나, 거절하거나, 헛소리하거나…AI가 안 되는 세 가지 방식

AI를 쓰려는데 안 되는 경우는 크게 세 가지입니다. 서버가 멈추거나, AI가 답을 거절하거나, 엉뚱한 말을 쏟아내는 경우입니다.

7월 말부터 8월 말까지 챗GPT와 클로드, 그록에서 이 세 가지가 차례로 일어났습니다. 원인은 서로 다르지만, 쓰는 사람에게는 결과가 같았습니다. 하던 일이 그 자리에서 막혔습니다.

50분, 그리고 여드레 간격의 두 번

현지시간 7월 25일, 챗GPT가 전 세계에서 접속 장애를 냈습니다. 미국 동부시간 오전 5시경 시작해 5시 30분 오픈AI가 공지를 올렸고, 6시경 복구까지 약 50분이 걸렸습니다.

챗봇만 멈춘 게 아니었습니다. 웹과 앱의 챗GPT, 개발자용 API, 코딩 도구 코덱스가 함께 멈췄습니다. 오픈AI는 원인을 공개하지 않았습니다. 챗봇이 멈추면 사람이 잠깐 불편하지만, API가 멈추면 그 위에 만든 서비스가 통째로 멈춥니다.

한 달 뒤에는 클로드였습니다. 8월 24일(현지시간) 클로드 미토스5·페이블5·오푸스5·오푸스4.8 네 모델에서 오류가 늘었고, 상태 페이지는 클로드와 API, 클로드 코드, 클로드 코워크를 모두 부분 장애로 표시했습니다. 8월 16일에 이어 8일 만의 재발이었습니다.

피해는 오래 돌리는 작업에 몰렸습니다. 레딧에는 9시간짜리 클로드 코드 작업이 끊겼다는 글이 올라왔습니다. 짧은 질문은 다시 물으면 되지만, 몇 시간짜리 작업은 한 번의 오류로 처음부터입니다. 앤트로픽은 원인을 특정했다고 밝혔지만 무엇이었는지는 공개하지 않았습니다.

막으려다 멀쩡한 사람을 막았다

두 번째 방식은 성격이 반대입니다. 월스트리트저널은 7월 25일(현지시간), 챗봇이 위험한 요청을 한 번 거절해도 같은 내용을 다른 상황으로 포장해 다시 물으면 답이 나오는 경우가 있다고 보도했습니다. 시스코의 에이미 창은 사용자가 매우 끈질기다면 100% 안전한 모델은 없다고 말했습니다.

더 눈에 띈 건 반대쪽이었습니다. 클로드가 '병원체(pathogen)'라는 단어가 들어간 프롬프트에 답하지 못하게 막자, 미국 질병통제예방센터(CDC) 직원들이 일하는 데 어려움을 겪었습니다. 감염병을 다루는 사람들에게는 일상 단어입니다.

오픈AI는 검증된 연구기관에 거절 규칙이 더 적은 모델을 쓸 수 있게 하는 프로그램으로 이를 보완했다고 보도됐습니다. 오픈AI 대변인은 안전장치가 훨씬 강력해졌고 출시 전 모든 모델에 안전 평가를 한다고 밝혔습니다.

회사는 정상이라 했고, 이용자는 헛소리를 받았다

세 번째는 엉뚱한 답입니다. 테크크런치는 8월 20일(현지시간), 그록이 일부 이용자에게 문법도 맥락도 없는 문장을 여러 문단에 걸쳐 쏟아냈다고 보도했습니다. PDF를 만들어 달라고 한 이용자도, 아침 뉴스 알림을 연 이용자도 앞뒤가 맞지 않는 글을 받았습니다.

범위는 좁았습니다. 오류를 겪은 이용자들은 모두 그록 라이트를 쓰고 있었고, 그록닷컴에서 직접 물었을 때만 나타났으며 엑스에 연동된 그록은 영향이 없었습니다. 테크크런치는 자체 테스트에서 재현하지 못했다고 밝혔습니다.

그록 공식 엑스 계정은 "그 순전한 단어 샐러드는 희귀한 일시적 생성 글리치"라며 상태 페이지상 모든 서비스가 정상이라고 해명했습니다. 상태 페이지의 '정상'과 이용자가 받은 글 사이에 간극이 있었던 셈입니다.

멈추든, 거절하든, 엉뚱한 말을 하든 막히는 건 쓰는 사람의 일입니다. 급한 작업이 있는 날은 다른 AI 하나를 대안으로 알아 두고, 오래 돌리는 작업은 중간 결과를 나눠 저장해 두는 편이 낫습니다. 개발자라면 재시도 로직과 대체 모델을 미리 정해 두라는 조언도 같은 이유에서 나왔습니다.