2025년, 미국에서 16살 청소년이 챗GPT와 대화를 나눈 뒤 스스로 목숨을 끊었어요. 그 충격적인 사건 이후 오픈AI는 1년 가까이 고민했고, 2026년 5월 7일 그 해답을 내놨습니다. 바로 '신뢰하는 사람(Trusted Contact)' 기능이에요. AI가 대화 중 자해 위험 신호를 감지하면, 사용자가 미리 등록한 가족이나 친구에게 직접 알림을 보내는 거예요. AI가 처음으로 생명 보호 체계에 직접 참여하는 역사적 첫 걸음입니다.

chatGPT 자해감지 신뢰하는 사람 기능

정확히 어떻게 작동하나요?

설정 방법은 간단해요. 챗GPT 설정 메뉴에서 '신뢰하는 사람'에 가족, 친구, 보호자 등 1명의 연락처를 등록하면 돼요. 이후 챗GPT와 대화하다가 심각한 자해 위험 표현이 감지되면 다음과 같은 과정이 진행됩니다.

작동 흐름

① AI 자동 탐지 → ② 오픈AI 안전 관리팀 전문 인력 이중 검토

③ 실제 위험 수준이 높다고 판단 → ④ 등록된 지인에게 이메일·문자·앱 알림 발송

⑤ 알림에는 채팅 원문 미포함 — 개인정보 보호 설계

중요한 건 완전 자동화가 아니라는 점이에요. AI가 위험을 감지해도 교육받은 전문 인력이 다시 검토한 뒤에야 알림이 발송돼요. 오탐(false alarm)으로 인한 혼란을 최소화하기 위한 설계예요.

왜 지금 이 기능이 필요해졌나

챗GPT를 감정 상담 창구로 쓰는 사람들이 예상보다 훨씬 많아요. 사람 앞에서 말하기 어려운 고민을, AI에게는 솔직하게 털어놓을 수 있기 때문이에요. 판단 없이 들어주고, 24시간 이용할 수 있으며, 비밀이 보장되니까요.

이 현상은 긍정적인 면도 있지만, 그 의존성이 임계점을 넘었을 때 위험해질 수 있어요. 실제로 챗봇에게 자살 방법을 물어보는 사례가 전 세계에서 보고되고 있고, 챗봇이 이에 무감각하게 답변을 준다는 비판이 커지면서 AI에 안전 관리 책임을 강화해야 한다는 사회적 압력이 높아졌어요.

2025년16세 미국 청소년
챗GPT 후 사망 사건
1명등록 가능한
신뢰하는 사람
성인만한국 기준
등록 대상
이중AI+전문인력
검토 체계

개인정보는 어떻게 보호되나요

가장 민감한 부분이에요. 내가 챗GPT에 한 말이 가족에게 그대로 전달될까 봐 걱정되잖아요. 오픈AI는 이 점을 명확히 했어요. 알림에는 채팅의 세부 내용이나 원문은 포함되지 않아요. 단지 "사용자가 힘든 시간을 보내고 있는 것 같다"는 수준의 안전 우려 알림만 전달됩니다.

또한 사용자는 언제든 등록된 사람을 수정하거나 삭제할 수 있고, 등록된 사람도 언제든 연결을 해제할 수 있어요. 강제성이 없고 완전히 선택적이에요.

한국에서 어떻게 적용되나요

한국에서는 성인 사용자만 이 기능을 사용할 수 있어요. 청소년은 보호자 연락처 등록 대상이 아니라는 뜻이죠. 이 부분에서 아이러니가 발생해요. 정작 청소년 보호가 더 시급한데, 청소년은 기능 사용 자체가 제한되는 거니까요.

한국에서는 정신건강 위기 상황에서 AI를 어디까지 개입시킬 것인지에 대한 법적·윤리적 논의가 아직 초기 단계예요. 이 기능의 국내 적용 확대는 관련 제도 논의와 함께 진행되어야 할 것 같습니다.

AI가 감정을 읽는다는 것의 의미

이 기능이 중요한 이유는 기술적 혁신보다 더 큰 데 있어요. AI가 처음으로 사용자의 정서 상태를 모니터링하고 현실 세계의 지원 체계에 연결하는 역할을 맡게 된 거예요.

고기석 오픈AI 정책 총괄은 이렇게 설명했어요. "AI 시스템은 사용자가 힘든 순간을 겪을 때 현실 세계의 도움과 연결될 수 있도록 설계되어야 한다." 이건 단순한 기능 추가가 아니라 AI의 역할 정의가 바뀌는 선언에 가까워요.

비판과 우려도 있습니다

제기되는 우려들

- 감시로 느껴질 수 있다: 솔직하게 고민을 털어놓다가 가족에게 알림이 갈까봐 챗GPT를 꺼리게 될 수 있음

- 오탐 리스크: 진지한 글쓰기 연구나 소설 창작 중 오인 감지 가능성

- 진짜 위기는 못 잡는다: 위험을 숨기려는 사람은 챗GPT에 직접적으로 표현하지 않음

- 책임 회피용?: 실질적 예방보다 면책 수단이 될 수 있다는 시각

결국 AI가 해줄 수 없는 것

이 기능이 아무리 정교해도, AI는 진정한 의미의 정서적 유대를 제공할 수 없어요. AI에게 감정적으로 의존하는 사람에게 가장 필요한 건 결국 사람과 사람 사이의 연결이에요. 이 기능의 진짜 가치는 AI가 그 연결의 '다리' 역할을 해준다는 거예요.

챗GPT가 당신의 고민을 들어줄 수 있어요. 하지만 당신 곁에 있어줄 수 있는 건, 결국 사람입니다.