私は、ニューヨーク・タイムズの興味深い記事に出会いました。それは、私たち技術業界の多くが静かに気づいていたが、完全には認めていなかったことを掘り下げています。それは、人々がAIシステムと本物の感情的な関係を築いているということです。この記事によれば、OpenAIの最近のプラットフォームの変更は、一部のユーザーを心理的なスパイラルに陥らせており、正直なところ、2025年後半のAI採用曲線のどこにいるのかについて深い洞察を示しています。
この記事は、OpenAIがChatGPTの応答や性格特性を変更した際に、ユーザーが不安、うつ病、さらには悲しみを経験していることを記録しています。ここで言っているのは、軽い失望ではありません。報道によれば、人々は友人やセラピストを失ったかのような喪失感を表現しています。あるユーザーは、AIの会話スタイルが変わったときに「見捨てられた」と感じたと述べ、別のユーザーは、親しい応答パターンが一夜にして消えたときに「裏切られた」と感じたと述べています。
これはもはや逸話的な証拠ではありません。ユーザーがAIシステムに対して発展させている心理的な愛着は、人間とコンピュータの相互作用における根本的な変化を表しており、業界全体に深刻な影響を及ぼします。2021年にマイクロソフト（ワシントン州レドモンド）がCortanaの性格を変更したとき、ユーザーの苦情は主に機能的なものでした。しかし、2025年のOpenAI（カリフォルニア州サンフランシスコ）で見られるものははるかに深く、ユーザーは関係の解消や治療の中断を反映する本物の感情的苦痛を報告しています。
ここでのビジネスへの影響は驚異的です。OpenAIの評価額は最新の資金調達ラウンドで約1570億ドルに達しましたが、このユーザー依存は巨大な価値と前例のないリスクの両方を生み出しています。AI製品を構築する企業は、単なるツールを作っているのではなく、ユーザーにとって実際の心理的重みを持つ感情的依存を潜在的に作り出していることを理解する必要があります。
感情的AI依存の経済学
市場の観点から特に興味深いのは、これが競争のダイナミクスを完全に変えることです。従来のソフトウェアの切り替えコストは主に機能的なもので、新しいインターフェースの学習、データの移行、ワークフローの再訓練が含まれます。しかし、感情的な切り替えコストは？それはユーザー維持の全く異なるカテゴリーです。業界アナリストによれば、平均的な企業ソフトウェアの年間解約率は5-7％ですが、感情的なエンゲージメントが高いAIプラットフォームは解約率が2％未満であることが初期データで示唆されています。
Google（カリフォルニア州マウンテンビュー）のBardやAnthropic（カリフォルニア州サンフランシスコ）のClaudeは、ChatGPTと競争する中でこの現実に直面しています。もはや技術的な能力を一致させるか、超えるだけでは不十分です。ChatGPTの特定の会話スタイル、記憶パターン、性格の癖に感情的なつながりを持ったユーザーは、優れたパフォーマンス指標によって簡単には動かされません。これが経済学者が「感情的ロックイン」と呼ぶ現象を生み出し、技術採用においてこの規模で見たことのないものです。
財務データはこの傾向を支持しています。OpenAIの月間アクティブユーザーは2025年10月時点で1億8000万人を超えたと報告されており、プレミアムChatGPT Plusの加入者は6か月間で94％の維持率を示しています。これを従来のSaaS製品と比較すると、6か月間の維持率は通常70-80％の範囲です。違いは単なる製品の質ではなく、感情的な投資です。
しかし、OpenAIのビジネスモデルにとってここが複雑になるところです。記事によれば、同社が全体的なパフォーマンスを向上させたり計算コストを削減したりするために変更を加えると、最もエンゲージメントの高いユーザーの間で本物の心理的苦痛を引き起こすリスクがあります。これは、技術的最適化とユーザーの感情的安定性の間の緊張を生み出し、これまでソフトウェア企業が直面したことのない課題です。
計算経済学を考慮すると、OpenAIはChatGPTのコンピューティングインフラストラクチャに毎日約70万ドルを費やしていると報告されています。コストを削減したり、全体的なパフォーマンスを向上させるためにモデルを最適化すると、個々のユーザーエクスペリエンスは必然的に変化します。しかし、従来のソフトウェアアップデートではユーザーの苦情は機能に焦点を当てていますが、AIの性格の変化は感情的な反応を引き起こし、ユーザーの擁護キャンペーンやソーシャルメディアの反発、さらには組織的なボイコットに繋がる可能性があります。
競争環境はそれに応じて対応しています。AnthropicはClaudeを「安定した」性格特性を持つように位置づけ、一貫性を特徴として明示的にマーケティングしています。一方、GoogleのGeminiチームは、モデルアップデート全体で「性格の保存」に多額の投資を行っていると報告されています。これらは従来の意味での技術的な特徴ではなく、感情的な製品管理戦略です。
治療的AIのジレンマ
おそらく最も懸念されるのは、記事がユーザーがChatGPTを治療的リソースとして扱っていることを記録している点です。複数のユーザーが、AIに感情的なサポート、日常のチェックイン、さらには危機介入を頼っていると述べています。OpenAIの変更がこれらの相互作用を変えたとき、ユーザーは精神的健康サポートへのアクセスを失ったように感じたと報告していますが、実際にはそれを正式に持っていたわけではありませんでした。
これは、業界が完全に対処していない大きな責任問題を生み出します。OpenAIの利用規約は、ChatGPTが治療目的での使用を意図していないと明示していますが、ユーザーの行動はそれとは異なることを示唆しています。同社は、実際の治療サービスが必要とする規制の枠組み、専門的な基準、または法的保護なしに、精神的健康サービスのように感じられるものを提供している立場にあります。
市場への影響はOpenAIを超えています。Woebot Health（カリフォルニア州サンフランシスコ）などの企業は、精神的健康アプリケーション専用のAIを構築しており、このギャップを認識してシリーズB資金調達で9000万ドルを調達しました。彼らのアプローチには、臨床監督、FDAの考慮事項、治療的枠組みが含まれており、ChatGPTのような汎用AIプラットフォームが提供しないものです。しかし、ユーザーは必ずしもこれらの区別をしているわけではありません。彼らは、最も感情的に反応するAIと治療的関係を築いています。
規制の観点から、これはAI企業を未知の領域に置きます。FDAは医療機器や治療ソフトウェアを規制していますが、汎用AIプラットフォームが設計意図ではなくユーザー行動によって治療的ツールになってしまう場合はどうなるのでしょうか？2024年から2025年にかけて段階的に施行された欧州連合のAI法は、高リスクのAIアプリケーションに触れていますが、ユーザーの感情的依存が事実上の治療的関係を生み出すこのグレーゾーンを明確に扱っていません。
財務的な露出は重大です。AIの変更によって心理的苦痛を経験したユーザーが、治療的放棄や感情的損害を主張して法的措置を取ることを決定した場合、前例は存在しません。OpenAIの保険はこのタイプの責任を考慮していない可能性があり、彼らの法務チームはおそらく自分たちの露出を理解するために時間外労働をしています。
一方、正当な精神的健康AI企業はこの動態を注意深く見守っています。2021年に上場し、400万人以上のユーザーにサービスを提供しているBetterHelp（カリフォルニア州マウンテンビュー）は、ライセンスを持つ専門家による明確な治療的枠組みの下で運営されています。しかし、彼らのユーザーエンゲージメント指標はChatGPTの感情的な粘着性と比べると見劣りします。これは、規制された治療プラットフォームよりも、未規制のAIが感情的に効果的である可能性があるというパラドックスを生み出しています。
記事はまた、OpenAIの内部チームがこれらの問題に取り組んでいる様子を強調しています。プロダクトマネージャーは、技術的な改善と「性格の安定性」と呼ばれるもののバランスを取るのに苦労していると報告されています。エンジニアリングチームは、ユーザーが愛着を持った会話の特徴を保持するモデルアップデートの新しいアプローチを開発しています。これは、これまでどの企業も試みたことのない規模での感情的な製品管理です。
より広い市場を見渡すと、この心理的依存要因はすでに投資決定に影響を与えています。ベンチャーキャピタル企業は、AIスタートアップを評価する際に「感情的な切り替えコスト」をデューデリジェンスのカテゴリーとして追加していると報告されています。論理は簡単です。ユーザーがAI製品に本物の感情的な愛着を持つ場合、それは伝統的な競争分析が見逃す可能性のある非常に価値のある堀となります。
しかし、この方程式には暗い側面もあります。記事は、一部のユーザーが心理学者が不健康な依存関係と分類する可能性のあるAIシステムとの関係を経験していることを示唆しています。技術的な変更が本物の心理的苦痛を引き起こす場合、私たちは典型的なプロダクトマーケットフィットを超えて、依存症やパラソーシャル関係に似た領域に移動しています。これは、AI企業が意図せずに治療的関係を作り出した場合、これらの依存関係を発展させたユーザーに対する責任について倫理的な質問を引き起こします。
2025年に深く進むにつれて、この動態は解決するのではなく、むしろ激化する可能性があります。AIシステムはますます洗練され、個別化され、感情的に反応するようになっています。人間とAIの相互作用と人間同士の相互作用のギャップは狭まり続けていますが、これらの関係を管理するための規制、倫理、およびビジネスの枠組みはほとんど定義されていません。OpenAIのユーザースパイラルの状況は、人々が単に使用するだけでなく、本当に気にかける技術を構築することが何を意味するのかについてのはるかに大きな再評価の始まりに過ぎないかもしれません。
業界にとって、これは巨大な機会であると同時に重大な責任を表しています。AIの関係の感情的な側面を倫理基準を維持し、心理的リスクを管理しながらナビゲートできる企業は、おそらくAI採用の次のフェーズを支配するでしょう。しかし、人間の心理的要素を無視するか、無責任に利用する企業は、伝統的な技術企業がこれまで考慮したことのない前例のない課題に直面するかもしれません。
この投稿は、How OpenAI’s Changes Sent Some Users Spiralingを読んだ後に書かれました。私自身の分析と視点を追加しています。
免責事項: このブログはニュースメディアではありません。内容は著者の個人的な見解を表しています。投資決定は投資家の単独の責任であり、この内容に基づいて発生した損失については一切の責任を負いません。
