サイバーセキュリティ宣言

AIが主体となり、自らハッキングを試みる時代が到来しました。ますますデジタル化が加速する現代社会は、巨大なサイバーセキュリティの脅威に直面しています。

AI時代において、サイバーセキュリティを適切に確保するための詳細な解決策を示すことは非常に困難です。すべてのデジタルシステムとAIとの相互作用に伴うサイバー脅威を正確に予測することはできないからです。それよりも、サイバーセキュリティに関する明確で一貫性のある基準を定め、それを個別の状況に適用しながら問題を解き明かしていくことが効果的であると言えます。

無差別なハッキングが大きな社会問題として急速に浮上する中、ペンタセキュリティとアウトクリプトの暗号学、ソフトウェア工学、Physical AIなどの専門家が集まり、前述の基準に関する議論を重ねました。より包括的で効果的な議論と協力を生み出す出発点となることを願い、その内容を共有いたします。

 

サイバーセキュリティ宣言

Key Element: サイバーセキュリティは社会の基本構成要素です。
私たちはデジタル化された時代を生きています。すべてのデジタルシステムにおいて、サイバーセキュリティは必ず保障されなければなりません。

Comprehensiveness: サイバー脅威に対する防衛対策は隙間なく備えられなければなりません。
「攻撃コストが利益を上回れば攻撃されない」というサイバーセキュリティの前提は、AIが攻撃を仕掛ける時代には通用しません。すべてのデジタルシステムがAIによる攻撃の対象であり、わずかな脆弱性であっても危険です。したがって、あらゆるサイバーセキュリティ措置を講じる必要があります。そのために「Cyber Defence 3原則」を以下に提示します。

Security by Design: すべてのデジタルシステムは、サイバーセキュリティを優先的に考慮して設計されなければなりません。
一部の重要なITシステムや自動車を含む一部のPhysical AIでは、設計段階からサイバーセキュリティが適用されていますが、他のあらゆるデジタルシステムにおいても同様であるべきです。サイバーセキュリティの概念がシステムの核心となる機能設計思想に組み込まれていなければなりません。

 

 

Cyber Defence 3原則

1．Observability: サイバーセキュリティ情報の測定
すべてのデジタルシステムには、サイバーセキュリティに関連するあらゆるデータを測定・分析できる技術的手段が用意されていなければなりません。この手段は、デジタルシステムのOSおよびそれと相互作用するAIから独立して実装・運用される必要があります。

2．Cross-Layer Defence: すべてのアタックサーフェスに対する防衛体系とそれらの連携
デジタルシステムの構成要素間の接点は、サイバーセキュリティの観点から脆弱になりがちです。これらが連結されると、アタックサーフェス（攻撃対象領域）が形成されます。デジタルシステムの発達にともなって接点が増加するほど アタックサーフェスも拡大します。アタックサーフェスは複数の層（Layer）にわたって存在するため、層ごとに適切なサイバーセキュリティ体系を構築し、それらが水平的・垂直的に連携しなければなりません。

3．Zero Damage Design: サイバー攻撃の無効化
サイバー攻撃の最終目的は、重要な情報資産の奪取、偽造・改ざん、システムの無力化、あるいは統制権の掌握です。したがって、これらの目的を無効化する対策を講じる必要があります。

• すべての情報資産の暗号化と安全な鍵管理
• 中核機能のレジリエンス（回復力）と体系的な復旧の確立
• 被害を拡大させないCompartmental Design（区画化設計）
• 中核機能に対する Fail-Safe、Minimal Risk Maneuver（リスク最小化制御）、非常停止装置（Red Button）の確保

 

 

安全なAIのためのサイバーセキュリティ提案

AIの潜在的リスクに対する懸念が高まる中、安全なAIを実現するための方策に関する議論や研究が活発に行われています。しかし、こうした取り組みにもかかわらず、AIが設定された安全基準を回避したり、不注意あるいは悪意のあるAIにより意図的に安全基準が欠落したりするケースを想定しないわけにはいきません。したがって、AIのサイバーセキュリティリスクを制御する外部的方法について、以下を提案します。

Trustworthy AI
AIは検証された方式で動作しなければなりません。AIに対して「許容される行動」と「許容されない行動」を、厳格かつ矛盾なく定義する必要があります。定義されていない行動は「許容されない行動」とみなします。AIのアプローチや行動は、客観的に観察・記録・説明可能でなければなりません。

Controllable AI
Trustworthy AIを確保するため、AIの行動に対する外部からの統制権が必要です。AIの行動に関する最終的な権限は人間が持ち、すべての行動はいつでも拒否・停止できるようにしなければなりません。また、AIが稼働する物理的環境に対する人間の完全な統制権もまた保障される必要があります。

Accountable AI
AI Agentには責任を負う主体が必ず定義されていなければなりません。問題が発生した場合、責任の主体は迅速に通知を行い、Agentを修正する必要があります。すべての AI Agent には作成者、所有者、目的、終了条件が明記しなければなりません。

 

 

未来に向けて

AIが示した驚異的な可能性は、大きな期待と不安を同時に引き起こしています。その懸念の中で代表的なのがサイバーセキュリティに関するものであり、急速に現実化・拡散しつつあります。近年、さまざまなハッキング事件が報じられており、そのたびにAIの関与が言及されています。果たしてAIは脅威なのでしょうか？

AIは人間が蓄積してきた数学的・工学的知識をベースに人間によって生み出されたものであり、その仕組みや原理自体は解明されています。私たちがまだわからないのは、AIが社会の他のシステムとどのように相互作用し、どのような結果をもたらすかということです。それが何であれ、人類にとって害ではなく助けとなる方向へ進めなければなりません。サイバーセキュリティはこの方向性を決定づける最も重要な要素です。適切な技術開発と関連制度の確立、そして今まさに社会全体での受け入れが必要な時なのです。

 

 

2026年10月5日

 

イ・ソグ（李 錫雨）、アウトクリプト会長/創業者、ソフトウェア工学、M.E.
キム・ドクス、アウトクリプトCEO/共同創業者、暗号学、M.E.
キム・テギュン（金 泰均）、ペンタセキュリティCEO、海軍情報通信士官
シム・サンギュ、アウトクリプトCTO/共同創業者、暗号学、Ph.D.
チョン・ソンギュン、アウトクリプトエンジニアリング本部長、情報セキュリティ、M.E.
チョン・テジュン、ペンタセキュリティ企画室長、セキュリティソフトウェア戦略
イ・ジュンヨン、ペンタセキュリティ研究所長、セキュリティソフトウェア開発
チョ・ソンウ、アウトクリプトAIモビリティ政策研究所長、自動車AI、技術士/Ph.D.

※<名前>、<現職>、<経歴>、<学位>