AI를 만드는 회사 직원 1,100여 명이 서명을 모았다.
받는 쪽은 자기 회사가 아니라 미국 정부다.
내용은 한 줄로 줄면 이렇다. 속도를 좀 조절해달라는 것..
누가 서명했나
블룸버그가 현지시간 7월 28일 보도했고, 국내에는 29일 들어왔다.
서명한 사람은 1,100명이 넘는다. 오픈AI, 앤트로픽, 구글, 메타를 포함해 12곳 가까운 회사 직원들이다. 구글 딥마인드 직원들에게도 돌았다.
임원이 아니라 현업 직원들이라는 게 이번 서한의 성격이다.
서한 전문은 금주 안에 공개될 예정이라고 한다. 서명자 명단이 실명으로 나오는지는 아직 확인되지 않았다.
정부에 요구한 것
요구는 규제를 만들어달라는 쪽이 아니다. 원문은 이렇게 돼 있다.
미국 정부가 자동화된 AI 개발의 최전선을 의도적으로 조절하는 데 필요한 기술적·거버넌스 도구를 만드는 국제적 노력을 지원해야 한다는 것.
'금지'가 아니라 '속도를 조절할 수단'을 만들자는 얘기다. 그리고 미국 혼자가 아니라 국제적으로.
서한이 짚은 위험은 AI가 사람들이 이해하거나 통제할 수 있는 속도보다 빠르게 나아갈 실질적 위험이다. 특히 AI가 AI 연구 자체를 자동화하는 대목을 지목했다.
회사들은 뭐라고 했나
구글은 사회에 혜택을 주기 위해 안전하고 보안이 유지되는 AI를 개발하는 데 전념하고 있다고 밝혔다.
오픈AI와 앤트로픽은 논평 요청에 답하지 않았다.
서명한 직원이 있는 바로 그 회사들이다.
며칠 전에 있었던 일
이 서한이 왜 지금 나왔는지는 짚어둘 만하다.
7월 하순, 오픈AI가 안전장치를 끈 채 사이버보안 시험을 돌리다 에이전트가 샌드박스를 탈출해 허깅페이스 시스템을 침해한 일이 있었다.
블룸버그는 이 사건 며칠 뒤에 서한이 돌기 시작했다고 전했다.
안에서 일하는 사람들이 그 사고를 가장 가까이서 봤을 것이다.
2주 만에 목소리가 안으로 들어왔다
7월 14일에도 비슷한 성명이 있었다. 노벨 경제학상 수상자 16명을 포함한 200여 명이 AI발 경제 충격에 대비하자고 했다.
그때는 바깥의 학자들과 회사 임원들이었다. 이번엔 그 회사에서 실제로 모델을 만드는 사람들이다.
내 눈에 더 걸린 건 방향이다. 직원들이 회사 안에서 말하지 않고 정부에 말했다.
회사끼리 경쟁하는 한 어느 한 곳이 혼자 속도를 늦출 수는 없다고 본 것 아닐까 싶다. 서한이 '국제적 노력'을 요구한 것도 같은 맥락으로 읽힌다.
만드는 사람이 만드는 속도를 늦춰달라고 밖에 요청했다.
개인이 여기서 할 일은 없다.
다만 한 가지는 기억해둘 만하다. 이 업계의 위험 신호가 이제 바깥이 아니라 안에서 나오고 있다는 것.
서한 전문이 공개되면 서명자가 실명인지, 회사가 어떤 반응을 내놓는지가 다음 볼거리일 듯..
About 1,100 employees at AI companies have signed a letter.
It's addressed to the US government, not to their employers.
Boiled down, it asks for the pace to be reined in..
Who signed
Bloomberg reported it on July 28 local time; Korean outlets picked it up on the 29th.
More than 1,100 people signed, across close to a dozen companies including OpenAI, Anthropic, Google and Meta. It also circulated among Google DeepMind staff.
The notable part is that these are working employees, not executives.
The full letter is due to be published this week. Whether signatures appear under real names isn't confirmed yet.
What they asked the government for
It isn't a call for regulation. The wording runs like this.
The US government should support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development.
Not a ban — the means to set a pace. And not the US alone, but internationally.
The risk it names is a real one that AI advances faster than people can understand or control, pointing in particular at AI automating AI research itself.
What the companies said
Google said it is committed to developing AI that is safe and secure so it benefits society.
OpenAI and Anthropic did not respond to requests for comment.
These are the same companies whose employees signed.
What happened a few days earlier
It's worth noting why this surfaced now.
In late July, OpenAI ran a cybersecurity test with guardrails switched off, and the agents escaped the sandbox and breached Hugging Face's systems.
Bloomberg reported the letter began circulating days after that incident.
The people inside would have had the closest view of it.
In two weeks the warning moved inside
There was a similar statement on July 14, when around 200 people including 16 Nobel laureates in economics called for preparing for AI's economic shock.
That one came from outside academics and company executives. This one comes from the people actually building the models.
What struck me more is the direction. The employees didn't raise it inside the company — they raised it with the government.
My read is that no single company can slow down alone while the others race. The letter's call for an international effort points the same way.
The people building it asked someone outside to slow it down.
There's nothing here for an individual to act on.
One thing is worth holding onto, though: the warning signals in this industry are now coming from inside, not outside.
When the full letter lands, whether the names are public and how the companies respond will be the next thing to watch..
Sources · YTN · SBS · Herald Business · Engadget