AI를 쓰려는데 안 되는 경우는 두 가지다.

서버가 멈추거나, AI가 거절하거나.

7월 말에 둘 다 하루 이틀 사이로 일어났다. 겹쳐놓고 보니 성격이 정반대인데 결과는 같았다..

① 50분 동안 멈췄다

현지시간 7월 25일, 챗GPT가 전 세계에서 접속 장애를 냈다. 위키트리가 미국 매체 블리핑컴퓨터 등을 인용해 전했다.

미국 동부시간 오전 5시경 시작해 5시 11분경 신고가 급증했고, 5시 30분 오픈AI가 공식 공지를 올렸다. 6시경 복구까지 약 50분이었다.

핵심은 시간이 아니다. 챗봇만 멈춘 게 아니었다.

  • 챗GPT — 웹과 모바일 앱
  • API — 개발자용, 최대 12개 엔드포인트
  • 코덱스 — 코딩 도구

미국·유럽·인도·일본·호주에서 신고가 들어왔고 인도에서만 1,000건이 넘었다.

셋이 동시에 나갔다는 건 각각이 아니라 그 밑에 깔린 공통 계층에서 문제가 났을 가능성을 시사한다. 오픈AI는 원인을 공개하지 않았다.

챗봇이 안 되면 사람이 잠깐 불편하다. API가 멈추면 그걸 쓰는 서비스가 통째로 멈춘다.

② 멀쩡한 사람이 거절당했다

이틀 뒤, 성격이 전혀 다른 문제가 보도됐다.

월스트리트저널이 현지시간 25일 챗봇 안전장치가 우회될 수 있다고 실었다. 위험한 요청을 일단 거절해도, 같은 걸 다른 상황으로 포장해 다시 물으면 답이 나오는 경우가 있다는 것이다.

어떻게 뚫는지는 여기 쓰지 않는다. 그게 요점도 아니다.

시스코의 에이미 창은 사용자가 매우 끈질기다면 100% 안전한 모델은 없다고 말했다.

더 눈에 걸린 건 반대쪽이었다. 클로드가 '병원체(pathogen)'라는 단어가 들어간 프롬프트에 답하지 못하게 막자, 미국 질병통제예방센터(CDC) 직원들이 일하는 데 어려움을 겪었다.

감염병을 다루는 사람들에게 '병원체'는 일상 단어다. 위험한 사람을 막으려다 정작 그게 필요한 사람을 막아버린 셈이다.

오픈AI는 검증된 연구기관에 거절 규칙이 더 적은 모델을 쓸 수 있게 하는 프로그램으로 이를 보완했다고 보도됐다. 오픈AI 대변인은 안전장치가 훨씬 강력해졌고 출시 전 모든 모델에 안전 평가를 한다고 밝혔다.

성격은 반대인데 결과가 같다

장애는 회사 잘못이고, 과잉 차단은 회사가 안전하려고 한 일이다. 출발이 정반대다.

그런데 쓰는 사람 입장에서는 똑같다. 내 잘못이 아닌데 내 화면이 안 돌아간다.

예전엔 챗GPT가 안 되면 다른 걸로 검색하면 그만이었다. 지금은 업무 흐름에 들어와 있어서 멈추면 그 자리에서 막힌다.

특히 회사에서 API로 붙여 쓰는 서비스라면, 원인이 어디인지도 모르는 채 기다리게 된다.

멈추든 거절당하든, 막히는 건 내 일이다.

그래서 뭘 해두면 되나

거창한 대비는 필요 없다고 본다. 두 가지 정도다.

하나, 급한 작업이 있는 날은 대안 하나를 알아두는 것. 클로드든 제미나이든 상관없다. 한 곳에 다 걸어두면 그 한 곳이 멈출 때 같이 멈춘다.

둘, 거절당했을 때 내가 뭘 잘못한 게 아닐 수 있다는 걸 아는 것. 챗봇 쓰다가 "이건 왜 답을 안 해주지?" 싶었던 순간의 뒷면이 이거다.

느슨하면 뚫리고 조이면 멀쩡한 사람이 막힌다. 완벽한 선은 아직 없고, 회사들은 그 선을 계속 옮기는 중이다..

출처 · 위키트리 — 챗GPT 전 세계서 50분간 먹통…API·코덱스까지 동시 마비 · OpenAI — OpenAI Status · 연합뉴스 — "AI, 생물학 무기 제조법 자세하고 정확히 알려줘" · SBS — "AI, 생물학 무기 제조법 자세하고 정확히 알려줘"

There are two ways AI stops working for you.

The servers go down, or the AI refuses.

Both happened within a day or two in late July. Opposite in nature, identical in effect..

① It went down for 50 minutes

On July 25 local time, ChatGPT had a global outage. Wikitree reported it, citing US outlets including BleepingComputer.

It began around 5am US Eastern, reports spiked near 5:11, OpenAI posted an official notice at 5:30, and it was back around 6 — roughly 50 minutes.

The duration isn't the point. It wasn't only the chatbot.

  • ChatGPT — web and mobile apps
  • API — for developers, up to 12 endpoints affected
  • Codex — the coding tool

Reports came from the US, Europe, India, Japan and Australia, with over 1,000 from India alone.

All three going at once suggests the fault sat in a shared layer beneath them rather than in each separately. OpenAI did not disclose the cause.

When a chatbot is down, a person is inconvenienced. When the API is down, every service built on it stops.

② People with legitimate work got refused

Two days later, a completely different kind of problem was reported.

The Wall Street Journal reported on July 25 local time that chatbot guardrails can be worked around. A dangerous request gets refused, but wrap the same thing in a different situation and an answer sometimes comes out.

I'm not writing down how. That isn't the point either.

Amy Chang of Cisco said that if a user is persistent enough, no model is 100% safe.

The other side stuck with me more. When Claude was blocked from answering prompts containing the word "pathogen", staff at the US Centers for Disease Control and Prevention had trouble doing their jobs.

For people who work on infectious disease, "pathogen" is an everyday word. Trying to stop the dangerous ones, it stopped the people who needed it.

OpenAI reportedly patched around this with a program giving vetted research institutions access to models with fewer refusal rules. An OpenAI spokesperson said its safeguards are far stronger and every model gets a safety evaluation before release.

Opposite causes, same outcome

An outage is the company's fault. Over-blocking is the company trying to be safe. The starting points are opposite.

For the person using it, they're the same. Nothing you did, and your screen won't move.

It used to be that if ChatGPT was down you'd just search something else. Now it sits inside the workflow, so when it stops you stop with it.

And if it's a service your company wired up through the API, you wait without even knowing where the fault is.

Down or refused — either way, it's your work that stops.

So what's worth setting up

Nothing elaborate. Two things.

One: on days with something urgent, know one alternative. Claude, Gemini, whichever. Put everything on one provider and you go down when it does.

Two: when you get refused, know it may not be you. That moment where you thought "why won't it answer this?" — this is the other side of it.

Loosen it and it gets bypassed; tighten it and ordinary people get blocked. There's no perfect line yet, and the companies keep moving it..

Sources · Wikitree · OpenAI · Yonhap News · SBS