AI導入失敗事例6社を検証、依存リスクは本当か

「AI導入の失敗事例」としてYouTubeで語られている企業6社について、実際に何が起きたのかを一次資料で確かめました。動画が使う「経営危機」という言葉と、公式発表や判決文から分かる実態の間には、事例によって大きな差がありました。

---

確認できたこと・できなかったこと：AI導入失敗事例の検証

---

何が起きたか

「AIに頼り切った会社が潰れていく理由…アメリカで起きている自動化の罠と本当に残すべき人間の仕事とは」というタイトルの動画を見つけました。チャンネル「マーケティング侍の非常識なビジネス学」が公開したもので、運営者のりゅう先生が話しています。尺は約25分46秒です。

動画のURLはこちらです。正直に書いておくと、この記事を作る環境の通信設定ではYouTubeに直接アクセスできず、投稿日や再生回数はこちらで確認できていません。文字起こしはすでに管理人がGeminiを使って取得していたものを土台にしています。

動画が語る「5つの罠」

動画は、AIに全面的に頼った先に良い未来があるのか疑問を投げかけ、米国には「AI導入で潰れる、または潰れかけている会社」が実在すると語ります。そのうえで、中小企業がはまりやすい5つの問題を挙げています。価格や契約、採用の判断をAIに丸投げする「判断停止」、ベテランの勘や常連対応などデータ化されない現場知識が失われる「現場消失」、誤情報が高速かつ大量に広がり訂正が追いつかない「エラー高速化」、AIの判断の責任を誰も取らない「責任負債」、社員が考えなくなっていく「人間劣化」の5つです。

そのうえで動画は、議事録・要約・下書き・提案書のたたき台・社内FAQといった業務は低リスクで導入してよいとする一方、契約・採用・価格の判断はAIを補助にとどめるべきで、個別相談・謝罪対応・医療相談・企業の理念やミッションに関わる判断はAI任せを厳禁とする整理を示しています。この整理が実際の失敗事例と噛み合っているかどうかは、後段の「読者への考察ポイント」で扱います。

検証の進め方

動画は6社の実例を根拠として挙げていました。企業名は文字起こしの音声認識による推定だったため、まず分析の担当者が一次資料に当たって社名と経緯を確かめました。続いてGrokにも同じ6社について、10軸の検証を別々に頼みました。ここから先にお見せする内容は、私がまとめた事実確認と、Grokの発見を突き合わせたうえでの結果です。

---

各ソースはどう伝えているか

6社とも実在し、動画が挙げた社名の推定はすべて正しいというのがまず言えることです。ただし「AIに頼りすぎて経営危機に陥った」とひとまとめにできるかというと、事例ごとの規模はかなり違いました。ここでは1社ずつ、公式発表や判決文などの一次資料に照らして見ていきます。

Zillowの住宅転売事業撤退――損失は動画の主張とほぼ一致

Zillowは住宅を自社で買い取って転売する「Zillow Offers」という事業に、価格予測AIを使って参入していました。2021年11月2日の決算発表で、CEOのリッチ・バートン氏は「住宅価格を予測する際の不確実性が、想定をはるかに超えていた」と説明し、事業からの撤退を発表しています。評価損は最大5.69億ドル、従業員の25%にあたる約2,000人を削減しました。動画が語る「5億ドル以上の損失」という数字は、この発表とほぼ一致します。

会社側は市場のボラティリティや人手不足も要因として挙げており、AIの予測精度だけが原因とは説明していません。それでも、6社の中で「AI主導の事業が大きな損失を出し、会社の規模を縮小させた」という意味では、動画の「経営危機」という言葉に最も近いのがZillowだと言えます。競合のOpendoorは同種の事業を続けており、業界全体が撤退したわけではありません。

Air Canadaのチャットボット訴訟――「裁判所」の実態は少額の審判

2022年11月、Air Canadaのウェブサイトのチャットボットが、乗客のジェイク・モファット氏に「弔慰運賃は後から遡って申請できる」と案内しました。実際にはそのような制度はなく、モファット氏は差額の返金を求めて提訴しました。Air Canadaは「チャットボットの発言について会社は責任を負わない」と主張しましたが、この主張はブリティッシュコロンビア州民事審判所（BC Civil Resolution Tribunal）に退けられています。

審判所は2024年2月14日、過失による不実表示を認め、差額650.88カナダドルに利息36.14カナダドルと審判費用125カナダドルを加えた、合計812.02カナダドルの支払いを命じました。動画は「裁判所が会社に責任ありと判断した」と語りますが、この審判所は少額請求を扱う準司法機関であり、日本語の「裁判所」という言葉から連想される規模の裁判ではありません。賠償額も1万円台に収まる金額です。経営に響くような処分ではなく、企業がAIチャットボットの発言にも責任を負うと示した先例、という位置づけが実態に近いといえます。

マクドナルドの音声注文AI――全面撤退ではなく試験の終了

マクドナルドは2021年から、IBMと共同でドライブスルー向けの音声注文AI「Automated Order Taking」を、全店舗のうち100店舗余りで試験導入していました。2024年に入ると、ソフトクリームにベーコンを追加する、ナゲットを大量に注文させられるといった聞き取りミスがSNSで拡散し話題になりました。同年6月、社内メモでIBMとの提携終了が伝えられ、試験を行っていた店舗すべてで2024年7月26日までに技術を停止すると通知されています。

公式声明は「成果もあったが、より広く音声注文の解決策を検討する機会がある」というもので、音声注文AI自体を諦めたわけではありません。導入していたのは全店舗のごく一部にとどまり、その試験を終えて別の方式を探す、という規模の出来事です。「炎上して全店で使えなくなった」という受け止め方は誇張に近く、ハンバーガー1個や2個の聞き取りミスが、会社の経営そのものを揺るがしたわけではありません。

CNETのAI記事――発覚した誤りと信頼性への影響

メディア企業CNET（親会社Red Ventures）は2022年11月以降、社内開発のAIエンジンを使って金融解説の記事77本を公開していました。全公開記事の約1%にあたる量です。2023年1月、編集長のコニー・グリエルモ氏が声明を発表し、社内の点検で77本のうち41本以上に訂正が必要な誤りが見つかったと明らかにしました。元本1万ドルを年3%の複利で1年間預けると利息は300ドル（合計1万300ドル）になるところを、CNETは誤って「1万300ドルの利息を得られる」という趣旨で書いていたといった、基本的な計算間違いも含まれていたといいます。

CNETはAIツールの使用を一時停止し、編集体制を見直すと説明しました。会社の存続が脅かされたわけではありませんが、記事の信頼性を扱う媒体として、内容の正確さそのものに傷が付いた事例です。動画が語るような「経営危機」ではなく、メディアの信用に関わる訂正騒動というのが実態に近いところです。

Klarnaの人間回帰――「700人」の符合を巡る食い違う説明

スウェーデンの決済サービス企業Klarnaは2024年2月27日、OpenAIと組んだAIアシスタントが稼働1か月で230万件のチャットに対応し、これは「700人分のフルタイムエージェント相当」の作業量だと発表しました。解決までの時間は平均11分から2分未満に短縮され、2024年には4,000万ドルの利益改善を見込むという内容です。

ここで見過ごせないのが、Klarnaは2022年にも約700人を削減しており、人数がぴったり重なっている点です。Klarnaの広報担当は「2022年の人員削減とAIアシスタントの導入に関連はない」とEntrepreneur誌 ※英語サイトに説明していますが、同誌をはじめ複数の海外メディアがこの符合を疑問視する書き方をしています。会社の説明をそのまま採用するのではなく、無関係だという主張と、それを疑う報道の両方があるという状態で記事を進めます。

その後の展開も動画の筋書きとはややずれます。2025年、CEOのセバスチャン・シェミアトコウスキー氏はBloombergの取材に「コストを重視しすぎて品質が下がった」「行き過ぎた」と認め、人間のサポート担当者の採用を再開しました（Maginative ※英語サイトの報道より）。ただしKlarna自身は、これを「AI戦略の撤回」ではなく「一部業務での人員補強」だと位置づけています。会社発表と社外の受け止め方に差があるという点で、Klarnaは6社の中でも解釈が分かれやすい事例です。なお、動画が語る「悪意ある入力による不正な返金処理」については、独立した裏付けが見つかっていません。

iTutorGroupの採用差別――上海拠点の企業による米国内での事案

オンライン教育企業iTutorGroupは、採用選考ソフトウェアに女性55歳以上・男性60歳以上の応募者を自動的に不合格にするプログラムを組み込んでいたとして、米雇用機会均等委員会（EEOC）から2022年5月に提訴されました。2023年8月9日、200人以上の応募者を対象に36万5,000ドルの支払いで和解しています。EEOCにとって、AIを使った採用差別を巡る初めての和解とされています。

ここで確認しておきたいのが、iTutorGroupの本社は上海にあり、中国の大手保険会社Ping An Insuranceの傘下企業だという点です。米国の年齢差別禁止法（ADEA）に基づく訴訟が、中国資本の企業を相手に成立し、和解に至ったという構図になっています。動画はこの国際的な背景に触れておらず、単に「IT人材系企業」とだけ紹介していました。

---

確認できなかったこと・不明な点

正直に書いておきます。今回、事実として採用しなかった、または確認しきれなかった点が4つあります。

Klarnaの「リワードハッキング」

動画は、Klarnaのチャットボットで「悪意ある入力によって不正な返金処理が実行されるシステムエラーが発生した」と語っています。分析の担当者とGrokがそれぞれ調べましたが、この具体的な出来事を裏付ける独立した報道は見つかりませんでした。似た性質の一般論（AIの評価指標を悪用する研究上の議論）や、別の詐欺事件との混同である可能性も考えられますが、断定はできません。動画はこう主張していますが、独立した裏付けは確認できなかった、という扱いにとどめます。

「オンライン情報は人類の叡智のごく一部」という数字

動画では、インターネット上でアクセスできる情報は人類が持つ知識全体のごく一部にすぎず、現場にしかない知識をAIは持っていない、という論点が語られます。この割合を示す具体的な数字も出てきますが、動画自体がその出典を示していません。現場の知識が数値化されにくいという指摘自体は理解できますが、割合の数字は意見・伝聞として受け止めるにとどめ、事実として扱いません。

動画の投稿日・再生回数

この記事を作る環境のインターネット接続では、YouTubeのページに直接アクセスできませんでした。動画のタイトル・チャンネル名・おおよその尺は把握できていますが、正確な投稿日と再生回数は確認できていません。チャンネル自体は実在し、複数の企業のプレスリリースやサイトで言及があることは確認できています。

Klarnaの人員体制は今も進行中の事案です

本記事は進行中の事案を扱っており、続報により内容を訂正することがあります。とくにKlarnaの人員体制（人間サポート担当の再採用の規模・「2022年の人員削減との関係」を巡る会社の説明）は、この記事の公開時点でもまだ動いている話です。今後の会社発表や報道で状況が変わった場合は、本記事の該当箇所を取り消し線つきで訂正し、末尾に訂正履歴として残します。

---

背景・文脈

生成AI導入ブームと、その副作用が表面化した時期

6つの事例は、時期で見るとおおむね2つの波に分かれます。Zillowが撤退した2021年は、住宅価格の高騰を背景に、AIで住宅を大量に買い取る「iBuying」が業界で広がっていた時期にあたります。一方、Air Canada・Klarna・マクドナルド・CNET・iTutorGroupの問題は、2022年11月のChatGPT公開前後から2024年にかけて集中しています。企業がコスト削減を目的にチャットボットや自動化ツールを一気に導入した時期と重なっており、今回の6社は特別な例外というより、その時期に多くの企業が同時に踏んだ道の一部と見ることができます。

この時期は、AI活用そのものへの慎重論も同時に強まった時期でもあります。たとえばAnthropicは2026年6月、フロンティアAIの開発を世界規模で減速・一時停止できる仕組みを作るべきだと提言しました。この提言についてNULLPOINT.NEWSで検証した記事も公開しています。

iTutorGroupが示す国際的な構図

iTutorGroupの事例には、他の5社にはない要素があります。訴えたのは米国の政府機関（EEOC）、訴えられたのは上海に本社を置く中国資本の教育企業です。採用AIによる年齢差別という同じ種類の問題でも、国境をまたいだ法の執行という構図が加わっている点は、動画では触れられていませんでした。米国内で事業を行う海外企業が、米国の雇用差別禁止法の適用を受けるという枠組み自体は目新しいものではありませんが、AIによる自動判定が絡んだ事例としては珍しい部類に入ります。

---

読者への考察ポイント

動画の「低リスク領域・厳禁領域」の整理は、6社の実態と重なるか

動画は、議事録や要約、下書き作りは低リスクで任せてよく、個別相談・謝罪対応・医療相談・企業理念の判断はAI任せを厳禁とする整理を示していました。今回確認した6社のうち、少なくとも3社はこの整理と重なる形で問題が起きています。Air Canadaは、乗客一人ひとりへの案内という「個別相談」に近い業務をチャットボットに任せ、実在しない制度を案内しました。iTutorGroupは、採用の合否という「補助にとどめるべき判断」を自動化し、差別につながりました。Klarnaは、複雑な相談を含む顧客対応の大部分を自動化した結果、品質の低下を招き、人間の担当者を呼び戻しています。

一方でZillow・マクドナルド・CNETの3社は、この「個別相談か否か」という切り口にはうまく当てはまりません。Zillowは価格予測という統計的な判断、マクドナルドは音声の聞き取り、CNETは文章生成の正確さという、別の種類のつまずきです。動画の整理は「AIに人と向き合う判断を任せると危うい」という部分では今回の検証結果と矛盾しませんが、6社全体を説明できる万能の物差しではありません。AIを使う業務の性質によって、リスクの中身が変わるという見方のほうが実態に近いと考えられます。

AIはこの先どう使うのが適切か

AI自体が今後なくなるとは考えにくく、企業がAIを使わなくなるという未来のほうがむしろ想像しにくいところです。今回の6社が示しているのは「AIを使ったこと」自体が原因というより、「人間の確認を挟まないまま、顧客対応や採用判断のような、間違えたときに人が直接傷つく業務まで自動化を広げたこと」が問題の起点になりやすい、という傾向です。ここは6社の実態から読み取れる傾向であって、この先も必ずそうなると言い切れるものではありません。

権限をどこまでAIに渡すかという論点は、顧客対応に限った話でもありません。AIエージェントに作業を任せる場面でも、想定していなかった通信や操作が起きるリスクが議論されています。NULLPOINT.NEWSでは、この論点も別の記事で検証しています。

もう一つ気になるのは、AIが想定外の振る舞いをすること自体のリスクです。Air Canadaの誤案内は、AIが事実でないことをもっともらしく答えてしまう性質が実害につながった例でした。同じ性質をめぐっては、AIを追い詰めたときにどんな挙動を見せるかという実験も話題になったことがあります。こちらもNULLPOINT.NEWSで検証しています。

今回の検証から言えそうなのは、低リスクな業務から始め、人間の確認を挟みながら少しずつ任せる範囲を広げていく、という段階的な進め方が今のところ有力な考え方だという見方です。Klarnaが人間の担当者を呼び戻し、iTutorGroupが「継続的な研修」を和解条件に含めたことも、この方向と重なります。ただしこれは6社の事例から読み取れる傾向であり、今後の技術の進み方によって変わりうる予測にとどまります。

---

まとめ

今回確認した6社は、いずれも実在し、社名や金額の骨格はおおむね事実でした。ただし「AIに頼りすぎて経営危機に陥った」という一つの物語に押し込めるのは、Zillow以外では言い過ぎです。Air Canada・マクドナルド・CNETは限定的な試験の中止や少額の賠償、記事の訂正にとどまり、Klarnaは会社の説明とメディアの見方が今も割れています。動画が示した「AIに任せてよい領域・任せてはいけない領域」という整理は、Air Canada・iTutorGroup・Klarnaの3社では検証結果と重なりましたが、6社全体を一括りに説明できるものではありませんでした。

私はGeminiが起こした文字起こしを土台に、自分で一次資料に当たり、Grokにも同じ6社を別々に検証してもらいました。二人の評価が分かれた軸は、下の表のとおり隠さずに載せています。

私たちはニュースの真実を保証しません。ただし、真実を追求し、何を確認できて、何を確認できなかったか、そのプロセスをすべて開示します。

---

多角検証スコア（Claude × Grok 独立評価）

検証軸	Claude評価	Grok評価
1. メディア報道（資金源・国籍が異なる独立したもの）	A	A
2. 一般人の投稿（現地目撃者など）	B	B
3. 公式文書（政府・企業IR等）	A	A
4. 人間心理的分析	C	B
5. 統計データ	A	A
6. 歴史的文脈	B	A
7. 地理的・地政学的文脈	E	B
8. 宗教的・文化的背景	E	E
9. 経済的利害関係	B	A
10. 時系列的整合性	A	A

評価基準：A＝複数の独立したソースで確認済み矛盾なし　B＝一部確認できたが全ては確認できていない　C＝確認できたソースと矛盾するソースが混在　D＝ほぼ確認できていないソース不足　E＝確認不可または信頼できるソースなし

評価が食い違った軸について

4つの軸で評価が分かれました。「人間心理的分析」は私がC、Grokの評価はBでしたが、どちらも「解釈に頼る部分が大きい」という同じ理由を挙げており、数字ほど見方が離れているわけではありません。「歴史的文脈」は私がB、Grokの評価はAでした。Grokは時代背景への収まりの良さを根拠にしており、私が求めていた個別の先例としての重みの確認とは見ている対象が違っていたため、Bのままにしています。

いちばん差が大きかったのが「地理的・地政学的文脈」です。私は当初E（論点自体が薄いと判断していました）でしたが、Grokが「iTutorGroupは上海に本社を置く中国資本の企業だ」と指摘したのを受けて改めて確認したところ、実際にPing An Insurance傘下の企業だと分かりました。私の最初の評価はこの構図を見落としており、Bに引き上げています。「経済的利害関係」も私がB、Grokの評価はAで、Grokが挙げたコスト削減の動機とその後の軌道修正が経済合理性で説明できるという点は妥当だと判断し、A寄りに見方を改めました。私自身の最初の評価が甘かった軸が複数あったことも、あわせて開示しておきます。

NULLPOINT.NEWSとは──私たちの検証プロセスについて