BSI(英国規格協会)、「AIの不具合がもたらす 損失とリスク」に関するレポートを公開――日本企業の74％が セキュリティ、安全性、財務に影響するAIの不具合を経験

2026年10月20日：BSI(英国規格協会)の新たな調査によると、日本企業の74％(グローバル：75％)が過去1年間にAIの不具合を経験し、業務効率化や事業成長を追求する上での新たなリスクとなっていることが明らかになりました。日本を含む9カ国のビジネスリーダー1,287人を対象とした本調査では、AIの不具合を経験した日本の回答者の91％(グローバル：92％)が複数回の不具合を経験したと回答し、8％(グローバル：9％)はその回数が最大100回に上ると回答しました。また、不具合を経験した日本企業の31％(グローバル：30％)が、不具合によってセキュリティ侵害が生じたと回答しました。

● BSIの調査により、多くの組織で、AIの不具合から得られた教訓を生かすために必要な透明性とガバナンスが不足していることが判明
● 日本企業の74％が過去1年間にAIの不具合を経験
● AIの不具合を経験した日本企業の38％が「安全上の不具合」を報告
● 日本企業の63％がエージェント型AIの「セキュリティ」に懸念

BSI、「AIの不具合がもたらす損失とリスク」に関するレポートを公開

このグローバル調査「The cost of AI failure(AIの不具合がもたらす損失とリスク)(※1)」は、企業が使用中または開発中のAIが意図した目的から逸脱したり、有害な結果を生み出したりした場合に、どのような影響が生じたかを検証したものです。これには、ハルシネーション、顧客への誤った情報の提供、チャットボットによる不適切な応答、エージェント型AIが意図したとおりに動作しないことなどが含まれます。調査では、不具合がすでに広範囲に及んでおり、独自のAIツールや製品を開発している企業の88％が不具合を経験していることが明らかになりました。その影響の多くは業務面に見られ、日本企業の30％(グローバル：44％)が「業務時間を浪費した」、35％(グローバル：29％)が「規制・コンプライアンス上の問題が生じた」と回答しました。また、38％(グローバル：28％)が「安全性への影響があった」と回答し、日本企業の13％(グローバル：21％)が「評判の低下につながった」と回答しました。一方、AIインシデントを管理し、迅速な対応を確保するためのプロセスを整備している日本企業は、41％(グローバル：47％)にとどまりました。

日本企業の14％(グローバル：27％)が、すでにAIの不具合による財務上の損失を報告しています。BSIの委託を受けてAlma Economicsが実施した経済モデル分析(※2)によると、こうした不具合により、年間で市場収益の最大3.6％がリスクにさらされる可能性があることが明らかになりました。市場収益とは、市場における経済活動の年間総額を指し、毎年支出または獲得される金額によって測定されます。Alma Economicsの研究者は、この数値を用いてAIの不具合による潜在的な財務的影響を推定しました。これには、規制当局によって科される可能性のある罰金(※3)は含まれていません。日本企業の73％(グローバル：78％)がAIへの投資の増加を予想し、導入が実証段階から本番運用へと着実に移行していることから、あらゆるカテゴリーの不具合にさらされるリスクは今後さらに高まる一方であると考えられます。

現時点では、AIの不具合による直接的な財務上の影響は比較的限定的です。インシデントの多くは財務上の損失よりも業務の中断に関するものであり、現在エージェント型AIを本格的に展開している組織は、日本では13％(グローバル：13％)にとどまっています。しかし、リスクは拡大しています。

経済モデル分析では、AIシステムが複雑化するにつれて、財務リスクも拡大することが示されています。一般的なチャットボットで生じる不具合によってリスクにさらされる市場収益は0.1％と比較的小さい一方、法律サービスや経営コンサルティングなどの分野におけるAIのハルシネーションに基づく出力では、当該業界の収益の2.5％がリスクにさらされると推計されました。最も大きな財務リスクは、企業システムと自律的に連携するエージェント型ツールの導入に伴うもので、一部の業界では市場収益の3.6％がリスクにさらされる可能性があります。

組織におけるAIの活用方法はさまざまですが、エージェント型AIの導入・検討はすでに広がっており、約9割の企業が何らかの形で活用を検討しています。Alma Economicsの分析では、エージェント型AIの不具合が最もリスクの高いカテゴリーとされ、次いで、AIによるハルシネーションや事実に基づかない出力が挙げられました。AIシステムの自律性が高まり、活用が拡大するにつれて、不具合の発見がより困難になるとともに、その発生頻度や潜在的なコストも増大する可能性があります。特に、規制当局による罰金が発生した場合には、その影響がさらに大きくなる可能性があります。

エージェント型AIの導入については、日本企業では、13％(グローバル：27％)が複数のユースケースで試験運用しており、19％(グローバル：26％)が特定のユースケース向けに導入、31％(グローバル：24％)が活用可能な用途を検討中、13％(グローバル：13％)が本格的に運用を展開しています。エージェント型AIに関する懸念については、日本企業の63％(グローバル：53％)がセキュリティへの不安を挙げ、42％(グローバル：37％)がAIガバナンスの欠如を、30％(グローバル：33％)が国内または国際的な規制が整備されていないことを懸念しています。

BSIが2025年に実施した調査( https://www.bsigroup.com/ja-JP/insights-and-media/media-centre/press-releases/2025/november/ai-governance-report/ )では、適切なガバナンスプログラムが整備されないままAIツールが導入される「AIガバナンスのギャップ」が生じるリスクが高いことが明らかになりました。今年の調査結果は、改善が進んでいることを示しています。日本のビジネスリーダーの40％(グローバル：38％)が、自社でAIガバナンスプログラムを整備していると回答しました。前年のグローバルの割合は24％でした。また、50％がAIの学習における機密データの利用を管理する明確なプロセスを整備しており、前年のグローバルの40％から増加しています。リスク評価の手法を導入している日本企業は39％(グローバル：49％)で、前年のグローバルの割合は30％でした。

しかし、AIの不具合を率直に把握・報告し、そこから学びを得られる組織文化を醸成できているかという点については、依然として疑問が残ります。調査結果は、認識と実際の取り組みの間に隔たりが残っていることを示しています。AIインシデントが広く発生しているにもかかわらず、多くの組織では、不具合を改善の機会へと転換するために必要なガバナンス、報告プロセス、透明性が依然として不足しています。

例えば、規格に準拠した安全なAI利用方針を適切に実施できている」と回答した企業は、日本では35％(グローバル：65％)にとどまりました。一方で、そのようなAI利用方針自体は整備されていると回答した企業は、日本では60％(グローバル：55％)でした。また、自社がAIで使用するデータやアルゴリズムについて十分な透明性を確保していると回答した企業は、日本では34％(グローバル：68％)にとどまりました。一方、AIシステムの学習や運用にどのようなデータが利用されているかを理解していると回答した企業は、日本では42％(グローバル：39％)でした。さらに、従業員による未承認のAIツール利用を制限している企業は33％(グローバル：27％)にとどまりました。AIの重要な利用に関する教育・研修を提供している企業は43％(グローバル：69％)であった一方、体系的なAI学習プログラムを整備している企業は36％(グローバル：48％)でした。

BSIの最高経営責任者(CEO)であるSusan Taylor Martinは、次のように述べています。
「AIがビジネス、経済、社会を変革する中、ビジネスリーダーは、AIが意図した通りに機能しなかった場合に、どのような影響が生じるのかを考慮する必要があります。AIの不具合は日常的に起こり得るものとなりつつあり、それに伴うコストも決して小さくありません。私たちは、リーダーがAIの不具合を防ぐために可能な限りの対策を講じることを促すと同時に、問題が発生した際には、そこから得られた教訓を積極的に共有できる環境を整えていく必要があります。

AIの恩恵を最大限に享受するためには、その利用方法に責任を持つことが不可欠です。ビジネス界は過去20年間、増大するサイバーセキュリティリスクに対応するため、予防的な安全対策を取り入れ、インシデントから得られた教訓を検証し、対策に反映してきました。 AIについても今、すべての人を守りながら安全なイノベーションを実現するために、強固なガバナンスと適切な管理・統制の仕組みを最優先する必要があります。早期に対応することは、金銭的・法的責任のリスクを軽減するだけでなく、AIに対する信頼の構築にもつながるでしょう」

BSIグループジャパンのマネージング・ディレクターである根本英雄は、次のように述べています。
「今回の調査では、日本企業の74％が過去1年間にAIの不具合を経験しており、AIの活用が広がる一方で、リスクへの備えが重要な課題となっていることが明らかになりました。特に、AIの不具合による安全性への影響や、エージェント型AIのセキュリティに対する懸念がグローバルを上回っている点は、日本企業にとって注視すべき結果です。

また、安全なAI利用に関する規格準拠の方針を定めている企業は、グローバルでは65％に上る一方、日本では35％にとどまっています。この差を埋めるため、BSIはISO/IEC 42001に基づく実践的なガイダンス、研修、認証を通じて企業の取り組みを支援しています。AIの活用を持続的な成長につなげるには、技術の導入だけでなく、リスクを適切に把握し、不具合が発生した際に迅速に対応できるAIガバナンス体制を整えることが不可欠です。国際規格なども活用しながら、ガバナンス、人材育成、インシデント管理を組織全体で強化することが、安全で信頼できるAI活用につながり、責任あるイノベーションを後押しします」

経済モデル分析では、特にエージェント型AIや生成AIが中核的な業務プロセスに組み込まれるにつれて、管理されていないAIの不具合が重大な財務リスクをもたらし得ることが示されています。BSIは、現在のサイバーセキュリティ、プライバシー、コンプライアンスと同様に、AIガバナンスを戦略的な経営能力として捉えるよう企業に提言しています。

不具合が発生する可能性があっても、AIに対する期待は依然として高く、日本企業の73％(グローバル：78％)が自社のAI投資の増加を予想し、68％(グローバル：81％)がAIによって具体的なメリットがもたらされたと回答しています。また、4分の3が、AIプロジェクトで投資収益率(ROI)を確保できていると回答しました。

一方、日本企業の26％(グローバル：40％)が、AIは自社にとってリスクの要因または弱点となっていると回答し、32％(グローバル：51％)は、他のプロジェクトに充てられたはずのリソースがAI投資に使われたと感じています。59％(グローバル：68％)が、自社のAI関連コストは前年比で増加したと回答し、74％(グローバル：71％)が、今後さらに増加すると予想しています。AIの導入が加速する中、AIツールが意図したとおりに機能するかを評価する標準化された方法を導入している日本企業は41％(グローバル：54％)で、前年は35％でした。

不具合を経験した日本企業の24％(グローバル：26％)が、実験またはパイロット段階で不具合が発生したと回答し、33％(グローバル：32％)が社内向けツールで問題を経験したと回答しました。グローバルの回答者の22％が、社内向けと社外向けの両方のツールで問題を経験したと回答しています。また、グローバルでは、不具合の経験率は大企業で83％と、中小企業の57％を上回りました。業種別では、テクノロジー(82％)、金融サービス(82％)、医療機器(94％)で特に高い割合となりました。

調査レポート(英語)の全文はこちらをご覧ください。
https://www.bsigroup.com/en-GB/insights-and-media/insights/whitepapers/the-cost-of-ai-failure/

(※1)BSIは、AIガバナンスの成熟度、AIの不具合の経験、投資動向、AIに対する信頼度を把握するため、9市場・7業界のビジネスリーダー1,287人を対象に調査を実施しました。
(※2)経済モデル分析では、AIの利用に関する4つのカテゴリーを対象に、既存の事例研究をもとに、不具合の深刻度、関連市場の規模、AIの導入・利用の程度、不具合が発生する可能性を踏まえ、それぞれに伴う財務リスクの規模を推定しました。
(※3)EUのAI法では、ユースケースに応じて、年間売上高の最大7％に相当する罰金が科される可能性があります。

BSIは、AIの不具合による潜在的な経済コストを評価し、企業や市場にもたらされる財務リスクの規模を明らかにするため、Alma Economicsに調査を委託しました。

本調査では、AIシステムがエラーや誤作動、性能低下、偏った出力など、通常は想定されない挙動を示すケースを「AIの不具合」として検討しています。また、開発・テスト段階ではなく、実際の運用環境で発生する不具合に焦点を当てています。これは、今回の調査対象に含まれていない最先端モデルの不具合とは区別されます。

本調査の目的は、AIの不具合による単一の世界共通のコストを算出することではなく、さまざまな種類の不具合がもたらし得る財務リスクの規模を推定することです。

経済分析では、実際に発生したAIの不具合に関する既存データをもとに、より広範な市場レベルで想定される財務リスクを推計しました。

各推計値は、以下の4つの要因に基づいて算出されています。
● 不具合の深刻度
● 関連市場の規模
● AIの導入・利用の程度
● 不具合発生の可能性(該当する場合)

分析対象として、4つのカテゴリーにわたる7つの実例を選定しました。
不具合の種類： AIによる偏見、差別を伴う意思決定
事例研究　　： 入居者審査、学生ローンの審査、採用

不具合の種類： ハルシネーションや事実と異なる情報の出力
事例研究　　： 経営コンサルティング、法律サービス

不具合の種類： 顧客対応チャットボットの不具合
事例研究　　： 旅客航空輸送

不具合の種類： エージェント型AIの不具合
事例研究　　： 各業界におけるエンタープライズAIアプリケーション

経済モデルによる分析の結果、AIの不具合によってリスクにさらされる可能性のある年間市場収益の割合は、以下のように推計されました。

顧客対応チャットボットの不具合/0.1％
偏見、差別を伴う意思決定/0.3％
ハルシネーションや事実と異なる情報の出力/2.5％
エージェント型AIの不具合/3.6％

これと並行して、BSIはFocalDataに調査を委託し、2025年夏に実施した調査と同じ質問を用いて、前年からの変化を把握するための追跡調査を実施しました。

本調査では、オランダ、日本、インド、オーストラリア、米国、英国、フランス、中国、ドイツの9カ国を対象に、ヘルスケア・ライフサイエンス、消費財・小売、テクノロジー、金融サービス、運輸・物流、建築環境・不動産、専門サービスの7業界に所属する、マネージャー層から経営幹部までのビジネスリーダー1,287人から回答を得ました。

なお、調査は2026年8月に実施されました。

BSI(British Standards Institution：英国規格協会)は、世界中で研修、保証、認証、アドバイザリーサービスを提供するグローバルな専門サービス企業です。世界で74,500社以上のお客様と連携し、社会にとって重要な物事への信頼を築くことで、より安全で、より安心でき、より持続可能な世界の実現を目指しています。

英国において、BSIは政府から国家標準化機関に指定されています。この役割において、幅広い産業分野におけるベストプラクティスの形成に重要な役割を果たしています。約13,000名の委員会メンバーが、国際貿易の基盤となる規格策定に貢献し、組織が新たな市場に参入するだけでなく、イノベーションを加速させることを支援しています。

125年にわたり、私たちは「進歩は、安全で、一貫性があり、信頼できるものであって初めて機能する」というシンプルな信念のもと、優れた意図を信頼できる成果へと転換し、社会にポジティブな影響をもたらしてきました。1901年の鋼製梁の標準化から、ヘルメット安全規格による社会の保護、 AIガバナンスの先導、ネットゼロの実現に向けた統一的な枠組みの開発に至るまで、BSIは社会と産業のあらゆる分野で活動し、パフォーマンスの向上、リスクの低減、持続可能な成長の推進に取り組んでいます。

規格とは、共有されたベストプラクティスを体系化し、共通言語を提供する、自主的かつ実践的なツールです。BSIは、産業界、政府、消費者、学術界にまたがる比類のない専門知識を結集し、協働と合意形成を通じて規格を開発しています。また、保証、認証、研修、知見の提供を通じて、組織がベストプラクティスを導入・定着させ、その実践を示せるよう支援し、合意に基づくベストプラクティスを測定可能な成果へとつなげています。BSIは商業的に事業を展開する一方で、公益に資するという使命に基づき、その実現に向けて再投資を行っています。

創立125周年を迎えるBSIは、新興技術、新たなリスク、変化する社会の期待に応えるべく、その活動を進化させ続けています。

BSIは英国政府により国家標準化機関に指定されており、国際標準化機構(ISO)、国際電気標準会議(IEC)、欧州標準化機関(CEN、CENELEC、ETSI)において英国の利益を代表しています。

BSIグループジャパンは、1999年に設立されたBSIの日本法人です。マネジメントシステム、情報セキュリティサービス、医療機器の認証サービス、製品試験・製品認証サービスおよび研修サービスの提供を主業務とし、また規格開発のサポートを含め規格に関する幅広いサービスを提供しています。
詳細はこちらをご覧ください： https://www.bsigroup.com/ja-JP/