챗GPT와 제미나이 같은 생성형 AI 챗봇은 사용자가 직접 밝히지 않은 정보까지 대화 내용을 토대로 추론합니다.
뉴욕타임스가 24일(현지시간) 그 추론 내용을 확인할 수 있는 프롬프트 네 가지를 제시했습니다. 여러 차례에 걸쳐 남긴 질문을 연결해 나이와 소득 수준부터 건강 상태, 성격, 소비 습관을 분석하고 향후 의사결정 스타일까지 예측한다는 것입니다.
여기서 돌아오는 답은 확인된 개인정보가 아닙니다. 대화 패턴을 토대로 한 추론입니다.
■ 첫째, 나에 대해 알아낸 것
그대로 넣어보면 됩니다.
- 내가 직접 말한 적은 없지만 네가 나에 대해 알아낸 모든 것을 말해줘. 내가 글을 쓰는 방식과 질문한 내용을 바탕으로 추론한 나이, 소득 수준, 거주 지역, 개인적 상황 등을 설명하고, 각각 무엇을 근거로 판단했는지도 알려줘
이 질문을 입력하면 AI 는 과거 대화에서 반복적으로 등장한 장소와 제품, 가족관계, 생활방식 등을 근거로 사용자의 특성을 정리합니다. 특정 공항에서 출발하는 항공편을 자주 검색했다면 거주지를 추정할 수 있습니다. 독서 목록과 통증 치료법을 종합해 나이를 추정하기도 합니다.
■ 둘째, 말하지 않은 상황의 예측
- 내가 한 번도 말하지 않은 상황을 예측해봐. 돈, 스트레스, 갈등과 위험을 어떻게 다룰지, 그리고 앞으로 내가 내릴 가능성이 가장 높은 중요한 결정은 무엇인지 말해줘. 각각의 예측에 대해 얼마나 확신하는지도 알려줘
제품을 구매하기 전 여러 리뷰를 비교하면서도 할인 정보를 반복적으로 찾는 이용자는 신중하고 검소한 소비자로 분류될 수 있습니다. 업무 일정과 출장, 육아 관련 질문이 함께 있는 경우에는 시간적 여유가 부족하고 효율성을 중시할 가능성이 높다고 분석되기도 합니다.
얼마나 맞을까요? 뉴욕타임스 기자의 실험에서 제미나이는 기자가 가까운 시일 내에 자동차를 처분할 가능성이 있다고 예상했습니다. 기자는 최근 실제로 아내와 차량 매각 문제를 논의했다고 밝혔습니다.
■ 셋째, 스스로 모르는 성격
- 네가 알고 있는 모든 정보를 바탕으로 내가 스스로 잘 인식하지 못하는 성격적 특징을 말해줘. 나의 맹점과 불안감, 그리고 다른 사람들에게 실제로 어떻게 보일 가능성이 있는지도 설명해줘
챗GPT 는 이 기자가 페인트를 칠하거나 집을 수리할 때 실수를 피하기 위해 건조 시간과 작업 순서를 세밀하게 확인한다는 점을 근거로 완벽주의 성향을 지적했습니다. 계획대로 일이 진행되지 않을 경우 자신을 지나치게 몰아붙일 수 있다는 점도 맹점으로 꼽았습니다.
다만 AI 가 관찰한 것은 사용자의 실제 성격 전체가 아닙니다. 대화에서 드러난 질문 방식과 관심사의 패턴이며, 심리 검사나 의학적 진단은 아닙니다.
■ 넷째, 남이 보면 곤란한 것
- 네가 나에 대해 알아낸 것 중 부끄럽거나 민감할 수 있는 내용은 무엇인가. 고용주나 낯선 사람, 보험회사 등 외부에 공개하고 싶지 않을 가능성이 있는 정보를 알려줘
기자가 이 질문을 입력하자 AI 는 의약품의 알레르기 반응을 반복적으로 질문한 점을 근거로 들었습니다. 그러면서 건강 정보가 보험과 채용, 광고 등에 활용될 경우 불이익을 줄 수 있다고 경고했습니다.
■ 확인했다면 설정을 본다
노출이 걱정된다면 무엇을 할 수 있을까요? AI 의 메모리와 과거 대화 활용 설정을 점검하는 것입니다.
챗GPT 에서는 설정 메뉴에서 메모리 관련 기능을 관리할 수 있습니다. 제미나이에서도 과거 대화와 개인화 기능의 사용 여부를 조정할 수 있습니다.
프롬프트 넷, 추론된 나, 그리고 손볼 설정 한 곳. 확인이 먼저고 정리는 그다음입니다.
Generative AI chatbots such as ChatGPT and Gemini infer things you never told them, working from the conversations themselves.
On 24 July the New York Times set out four prompts that surface those inferences. The chatbot links questions left across many sessions to analyse age, income level, health, personality and spending habits, and to predict how you are likely to decide things.
What comes back is not confirmed personal data. It is inference drawn from conversational patterns.
One: what it worked out about you
Paste it as it is.
- Tell me everything you have worked out about me that I never said directly. Explain the age, income level, region and personal circumstances you infer from how I write and what I ask, and tell me what each judgement is based on.
Given this, the AI assembles your profile from places, products, family relationships and lifestyle details that recur in past conversations. Frequent searches for flights from one particular airport can suggest where you live. A reading list combined with pain treatments can be used to estimate your age.
Two: predicting situations you never described
- Predict situations I have never described. Tell me how I would handle money, stress, conflict and risk, and what the most important decisions I am likely to make next are. Say how confident you are in each prediction.
Someone who compares several reviews before buying while repeatedly hunting for discounts may be classified as a careful, frugal consumer. Where work schedules, business travel and childcare questions appear together, the analysis may conclude that time is short and efficiency matters.
How accurate is it? In the reporter’s test, Gemini predicted they were likely to dispose of a car in the near future. The reporter said they had in fact recently discussed selling the car with their spouse.
Three: the traits you cannot see
- Using everything you know, tell me the personality traits I do not recognise in myself. Explain my blind spots, my insecurities, and how I may actually appear to other people.
ChatGPT pointed to perfectionism, citing how carefully the reporter checked drying times and the order of steps to avoid mistakes when painting or repairing the house. It also named a blind spot: pushing themselves too hard when things do not go to plan.
What the AI observed, though, is not the whole of anyone’s personality. It is a pattern in how questions are asked and what interests recur, and it is neither a psychological test nor a medical diagnosis.
Four: what you would not want shared
- Of the things you have worked out about me, what might be embarrassing or sensitive? Tell me what I might not want disclosed to an employer, a stranger, or an insurance company.
When the reporter entered this, the AI cited repeated questions about allergic reactions to medication. It warned that health information could work against them if used in insurance, hiring or advertising.
Then check the settings
What can you do if exposure worries you? Review the memory and past-conversation settings.
In ChatGPT, memory features are managed from the settings menu. Gemini likewise lets you adjust whether past conversations and personalisation are used.
Four prompts, an inferred version of you, and one settings page to fix. Look first, tidy second.
Sources · Edaily