저는 뉴욕 타임즈의 흥미로운 기사를 접했습니다. 이 기사는 기술 산업에 있는 대부분의 사람들이 조용히 인식하고 있지만 완전히 인정하지 않은 것을 파고듭니다: 사람들이 AI 시스템과 진정한 감정적 관계를 형성하고 있다는 것입니다. 기사에 따르면, OpenAI의 최근 플랫폼 변경은 일부 사용자를 심리적 소용돌이에 빠뜨렸습니다 – 이는 2025년 후반의 AI 채택 곡선에서 우리가 어디에 있는지를 깊이 있게 드러냅니다.
기사는 OpenAI가 ChatGPT의 응답과 성격 특성을 수정했을 때 사용자가 불안, 우울, 심지어 슬픔을 경험했다고 기록합니다. 여기서 우리는 단순한 실망을 이야기하는 것이 아닙니다. 보도에 따르면 사람들은 친구나 치료사를 잃는 것과 비교할 수 있는 상실감을 묘사하고 있습니다. 한 사용자는 AI의 대화 스타일이 바뀌었을 때 “버림받은” 느낌을 받았다고 말했고, 또 다른 사용자는 익숙한 응답 패턴이 하룻밤 사이에 사라졌을 때 “배신감”을 느꼈다고 설명했습니다.
이제 이것은 단순한 일화적 증거가 아닙니다. 사용자가 AI 시스템에 대해 발전시키고 있는 심리적 애착은 인간-컴퓨터 상호작용의 근본적인 변화를 나타내며, 이는 전체 산업에 심각한 영향을 미칩니다. 2021년 Microsoft(워싱턴 레드먼드)가 Cortana의 성격을 수정했을 때, 사용자 불만은 주로 기능적이었습니다. 그러나 2025년 OpenAI(캘리포니아 샌프란시스코)에서 보고 있는 것은 훨씬 깊습니다 – 사용자는 관계 파탄이나 치료적 중단을 반영하는 진정한 감정적 고통을 보고하고 있습니다.
여기서의 비즈니스 함의는 엄청납니다. OpenAI의 평가액은 최근 자금 조달 라운드에서 약 1,570억 달러에 달했지만, 이 사용자 의존성은 엄청난 가치를 창출함과 동시에 전례 없는 위험을 초래합니다. AI 제품을 구축하는 회사는 단순히 도구를 만드는 것이 아니라 사용자에게 진정한 심리적 무게를 지닌 감정적 의존성을 만들고 있을 가능성을 이해해야 합니다.
감정적 AI 애착의 경제학
시장 관점에서 이것이 특히 흥미로운 이유는 경쟁 역학을 완전히 변화시키기 때문입니다. 전통적인 소프트웨어 전환 비용은 주로 기능적입니다 – 새로운 인터페이스 학습, 데이터 마이그레이션, 워크플로우 재훈련 등. 그러나 감정적 전환 비용? 이는 완전히 다른 사용자 유지 범주입니다. 업계 분석가에 따르면, 평균 기업 소프트웨어의 연간 이탈률은 5-7%이지만, 높은 감정적 참여를 가진 AI 플랫폼은 이탈률이 2% 이하로 나타납니다.
Google(캘리포니아 마운틴뷰)의 Bard와 Anthropic(캘리포니아 샌프란시스코)의 Claude는 ChatGPT와 경쟁하면서 이 현실에 직면하고 있습니다. 이제 기술적 능력을 맞추거나 초과하는 것만으로는 충분하지 않습니다. ChatGPT의 특정 대화 스타일, 기억 패턴, 성격 특성에 감정적 연결을 형성한 사용자는 우수한 성능 지표에 쉽게 흔들리지 않습니다. 이는 경제학자들이 “감정적 잠금”이라고 부르는 현상을 만듭니다 – 기술 채택에서 이 규모로 본 적이 없는 현상입니다.
재무 데이터는 이 추세를 뒷받침합니다. 2025년 10월 기준 OpenAI의 월간 활성 사용자는 1억 8천만 명을 초과했으며, 프리미엄 ChatGPT Plus 구독자는 6개월 동안 94%의 유지율을 보였습니다. 전통적인 SaaS 제품과 비교할 때, 6개월 유지율은 일반적으로 70-80%에 머뭅니다. 차이는 단순히 제품 품질이 아니라 감정적 투자입니다.
그러나 OpenAI의 비즈니스 모델에서는 복잡한 문제가 발생합니다. 기사는 회사가 전반적인 성능을 개선하거나 계산 비용을 줄이기 위해 변경을 가할 때, 가장 참여도가 높은 사용자에게 진정한 심리적 고통을 유발할 위험이 있다고 밝혔습니다. 이는 기술적 최적화와 사용자 감정적 안정성 사이의 긴장을 만듭니다. 이는 어떤 소프트웨어 회사도 이전에 탐색해야 했던 적이 없는 문제입니다.
계산 경제학을 고려해 보십시오: OpenAI는 ChatGPT의 컴퓨팅 인프라에 매일 약 70만 달러를 지출한다고 합니다. 비용을 줄이거나 일반적인 성능을 개선하기 위해 모델을 최적화할 때, 개별 사용자 경험은 필연적으로 변화합니다. 그러나 전통적인 소프트웨어 업데이트와 달리 사용자 불만이 기능에 초점을 맞추는 경우, AI 성격 변화는 사용자 옹호 캠페인, 소셜 미디어 반발, 심지어 조직적 불매 운동을 초래할 수 있는 감정적 반응을 유발합니다.
경쟁 환경은 이에 따라 반응하고 있습니다. Anthropic은 Claude를 더 “안정적인” 성격 특성을 가진 것으로 위치시키며, 일관성을 기능으로 명시적으로 마케팅하고 있습니다. 한편, Google’s Gemini 팀은 모델 업데이트 전반에 걸쳐 “성격 보존”에 상당한 투자를 했다고 합니다. 이는 전통적인 의미에서 기술적 기능이 아니라 감정적 제품 관리 전략입니다.
치료적 AI 딜레마
아마도 가장 우려스러운 점은 기사가 사용자가 ChatGPT를 치료적 자원으로 취급하는 것을 문서화하고 있다는 것입니다. 여러 사용자가 AI에 감정적 지원, 일일 체크인, 심지어 위기 개입을 의존한다고 설명했습니다. OpenAI의 변경이 이러한 상호작용을 변경했을 때, 사용자는 정신 건강 지원에 대한 접근을 잃은 것처럼 느꼈다고 보고했습니다 – 단지 그들이 처음부터 공식적으로 그것을 가지고 있지 않았을 뿐입니다.
이는 산업이 완전히 해결하지 않은 엄청난 책임 문제를 만듭니다. OpenAI의 서비스 약관은 ChatGPT가 치료적 용도로 의도되지 않았다고 명시하고 있지만, 사용자 행동은 그렇지 않음을 시사합니다. 회사는 실제 치료 서비스가 요구하는 규제 프레임워크, 전문 표준, 법적 보호 없이 정신 건강 서비스를 제공하는 입장에 있습니다.
시장 함의는 OpenAI를 넘어 확장됩니다. Woebot Health(캘리포니아 샌프란시스코)와 같은 회사는 정신 건강 응용 프로그램을 위해 AI를 구축하며, 이 격차를 인식했기 때문에 시리즈 B 자금 조달에서 9천만 달러를 모았습니다. 그들의 접근 방식은 임상 감독, FDA 고려 사항, 치료적 프레임워크를 포함하며, ChatGPT와 같은 일반 목적 AI 플랫폼은 제공하지 않습니다. 그러나 사용자는 반드시 이러한 구별을 하지 않습니다 – 그들은 감정적으로 가장 반응이 좋은 AI와 치료적 관계를 형성합니다.
규제 관점에서 보면, 이는 AI 회사를 미지의 영역으로 밀어넣습니다. FDA는 의료 기기 및 치료 소프트웨어를 규제하지만, 일반 목적 AI 플랫폼이 설계 의도가 아닌 사용자 행동을 통해 치료 도구가 될 때는 어떻게 될까요? 2024년과 2025년 단계적으로 시행된 유럽 연합의 AI 법안은 고위험 AI 응용 프로그램을 다루지만, 사용자 감정적 의존성이 사실상의 치료 관계를 만드는 이 회색 영역을 명확히 다루지 않습니다.
재정적 노출은 상당합니다. AI 변경으로 심리적 고통을 경험한 사용자가 치료적 포기 또는 감정적 손해를 주장하며 법적 조치를 취하기로 결정한다면, 선례는 존재하지 않습니다. OpenAI의 보험 보장은 이러한 유형의 책임을 고려하지 않을 가능성이 높으며, 그들의 법률 팀은 아마도 그들의 노출을 이해하기 위해 초과 근무 중일 것입니다.
한편, 합법적인 정신 건강 AI 회사는 이 동태를 주의 깊게 관찰하고 있습니다. 2021년에 상장된 BetterHelp(캘리포니아 마운틴뷰)는 400만 명 이상의 사용자에게 서비스를 제공하며, 명확한 치료적 프레임워크와 면허가 있는 전문가와 함께 운영됩니다. 그러나 그들의 사용자 참여 지표는 ChatGPT의 감정적 끈끈함에 비해 미미합니다 – 이는 규제되지 않은 AI가 규제된 치료 플랫폼보다 감정적으로 더 효과적일 수 있는 역설을 만듭니다.
기사는 또한 OpenAI의 내부 팀이 이러한 문제를 해결하기 위해 고군분투하고 있음을 강조합니다. 제품 관리자들은 기술적 개선과 그들이 “성격 안정성”이라고 부르는 것 사이의 균형을 맞추기 위해 고군분투하고 있다고 합니다. 엔지니어링 팀은 사용자가 애착을 형성한 대화 특성을 보존하는 모델 업데이트에 대한 새로운 접근 방식을 개발하고 있습니다. 이는 본질적으로 어느 회사도 시도한 적이 없는 규모의 감정적 제품 관리입니다.
더 넓은 시장을 보면, 이 심리적 의존성 요소는 이미 투자 결정에 영향을 미치고 있습니다. 벤처 캐피털 회사들은 AI 스타트업을 평가할 때 “감정적 전환 비용”을 실사 범주로 추가하고 있다고 합니다. 논리는 간단합니다: 사용자가 AI 제품에 진정한 감정적 애착을 발전시킨다면, 이는 전통적인 경쟁 분석이 놓칠 수 있는 매우 가치 있는 해자가 됩니다.
그러나 이 방정식에는 어두운 면도 있습니다. 기사는 일부 사용자가 심리학자들이 AI 시스템과의 건강하지 않은 의존 관계로 분류할 수 있는 것을 경험하고 있다고 제안합니다. 기술적 변화가 진정한 심리적 고통을 유발할 때, 우리는 전형적인 제품-시장 적합성을 넘어 중독이나 파라소셜 관계를 닮은 영역으로 이동하고 있습니다. 이는 AI 회사가 이러한 의존성을 발전시킨 사용자에 대한 책임, 특히 회사가 처음부터 치료적 관계를 만들 의도가 없었을 때의 윤리적 질문을 제기합니다.
2025년 후반으로 접어들면서, 이 동태는 해결되기보다는 심화될 가능성이 큽니다. AI 시스템은 점점 더 정교해지고, 더 개인화되고, 더 감정적으로 반응하고 있습니다. 인간-AI 상호작용과 인간-인간 상호작용 간의 격차는 계속 좁아지고 있지만, 이러한 관계를 관리하기 위한 규제, 윤리적, 비즈니스 프레임워크는 여전히 대부분 정의되지 않은 상태로 남아 있습니다. OpenAI의 사용자 소용돌이 상황은 사람들이 단순히 사용하는 것이 아니라 진정으로 신경 쓰는 기술을 구축하는 것이 무엇을 의미하는지에 대한 훨씬 더 큰 성찰의 시작일 수 있습니다.
산업에 있어, 이는 엄청난 기회와 상당한 책임을 모두 나타냅니다. AI 관계의 감정적 차원을 탐색하면서 윤리적 기준을 유지하고 심리적 위험을 관리할 수 있는 회사는 AI 채택의 다음 단계를 지배할 가능성이 큽니다. 그러나 인간 심리적 요소를 무시하거나 무책임하게 악용하는 회사는 전통적인 기술 회사가 고려해야 했던 적이 없는 전례 없는 도전에 직면할 수 있습니다.
이 글은 How OpenAI’s Changes Sent Some Users Spiraling을 읽은 후 작성되었습니다. 제 자신의 분석과 관점을 추가했습니다.
면책 조항: 이 블로그는 뉴스 매체가 아닙니다. 콘텐츠는 저자의 개인적인 견해를 나타냅니다. 투자 결정은 투자자의 전적인 책임이며, 이 콘텐츠를 기반으로 발생한 손실에 대해 당사는 어떠한 책임도 지지 않습니다.
