アイテム番号: SCP-3088-JP
オブジェクトクラス: Archon1
特別収容プロトコル: SCP-3088-JPに関する財団の対応はSCP-3088-JPにより生じた被害の事後処理にのみ焦点が置かれ、本質的なSCP-3088-JPの収容は行われません。
インターネット上に公開されたSCP-3088-JP-A実例は財団ウェブクローラ（"Farewell"）により監視・消去が行われます。SCP-3088-JP-Aによる被害が報告された場合、フィールドエージェントにより調査・事後処理が行われます。SCP-3088-JP-Aはデータ回収後に表示している媒体から削除され、関係者には被害者の死因は非異常性の要因であると周知されます。
これらの特別収容プロトコルは今後の社会情勢や時代の潮流の変化により撤回・改定される可能性があることに留意してください。
説明: SCP-3088-JPは画像創作を目的とした機械学習型のAIに関する確率論的異常です。SCP-3088-JPが発生するためのより詳細な条件として、十分な量の学習データを有していること、ある程度の解像度の画像を出力できることなどが推測されていますが、確率論の観点からSCP-3088-JP発生の閾値を調査することは不可能であるため、具体的な条件は不明です。
SCP-3088-JPが発生した場合、AIは本来予測される確率よりも高い確率で異常な画像(以降、SCP-3088-JP-Aと表記)を出力します。SCP-3088-JP-Aの図柄は概ねユーザの要求に準拠した内容ですが、ベリーマン=ラングフォード・ミーム殺害エージェントとほぼ同様の効果を発生させるパターンが含まれており、視認した対象を速やかに心停止により死亡させます。その死亡状況から、多くの場合は死体の発見者や現場検証中の警官などがSCP-3088-JP-Aを視認することによる二次的な被害が発生します。
計算上、非ミーマティック画像のみを学習した機械学習型のAIが偶発的にミーマティック画像を出力する確率は、学習データなどの変数を最大限に考慮したとしても限りなく低く、今後AIによる画像生成技術がより一般に膾炙することを加味しても可能性は0に近似可能です。しかしながら財団の数理モデルは、画像生成AIがSCP-3088-JP-Aを生成する確率について、アルゴリズムによる差異はあるものの10-15〜10-6オーダーと算出しています。その一方で、SCP-3088-JP-A以外のミーマティック画像の生成確率については予測される通りの結果を算出しています。
SCP-3088-JP-AはJPEG方式などの不可逆圧縮操作や画像の部分的な加工などにより容易に無力化します。現在主流のソーシャルメディアは殆どがメディアの不可逆圧縮形式やリサイズ機能を採用していることから、ソーシャルメディアを介してSCP-3088-JP-Aが短期間で広範囲に流布される可能性は低いといえます。
以下の画像は財団により補足されたSCP-3088-JP-A実例からの抜粋です。全ての画像は既に無力化済であることに留意してください。
事例3088-JP-1
発見日: 2016/10/21
概要: 既知の実例のうち最古のもの。敵対的生成ネットワークによる画像作成に関する研究の際にSCP-3088-JP-A実例が生成されたものと考えられる。生成者と研究関係者など7人が死亡。この段階では財団はSCP-3088-JPの存在を認知しておらず、「天文学的確率によって生じた不幸な事故である」という結論を下していた。
事例3088-JP-14-1
発見日: 2017/05/01
概要: SCP-3088-JPの存在が示唆されたのち、財団内でSCP-3088-JP再現実験を行った際に出力されたもののうちの一つ。実験はモデルや学習元の画像群を入れ替えて複数回行われた。死亡者なし。
事例3088-JP-107
日付: 2022/01/17
概要: 既知の実例のうち最も広範囲に被害が広がった例。Google社が提供する画像生成AIが生成した画像を直接ブログに出力するbotによりインターネット上にアップロードされた。閲覧者とその関係者など、約1,300名が死亡。
事例3088-JP-153
日付: 2022/07/12
概要: 非幾何学的画像としてSCP-3088-JPが発生した例。Stable Diffusionにより生成され、生成者とその関係者など6名が死亡。
補遺: Archon指定の経緯
SCP-3088-JPはその普遍的に起こりうる発生条件のために、収容を行うためにはその方針に依らず非常に大規模のプロトコルが必要になると考えられていました。そこで、3088-JP収容チームと欺瞞部門の職員により長期的な議論が行われました。以下はサイト管理官へ提出された稟議書の部分的な抜粋です。
[SCL-4相当の機密情報を含むため省略]
︙
以上の情報を踏まえたうえで、SCP-3088-JPの収容方針について結論を述べます。
3088-JP収容チーム内で出た最終的な収容案は、ミーム殺害エージェントの出力を防止するフィルターを大企業が提供する既存の人工知能に追加することで、SCP-3088-JP-Aを抑制するというものでした。実際、そのようなフィルターを作成することは可能ですし、既に財団のAICにはそれが導入されています。
しかしながら、それを各団体に頒布した場合、リバースエンジニアリング的手法によりフィルターのアルゴリズム内部を解析されることで、財団にとって既知のミーム殺害エージェントに関する情報が露呈するリスクが充分に存在すると主張し、欺瞞部門はこの方針に反対しました。SCP-001-JPを始めとする機密情報の安全性の大部分はミーム殺害エージェントに依存しており、これらの情報が漏出することは極めて重大な問題になり得ます。
一方で、欺瞞部門は画像生成AIの規制やフィルターの頒布などによる本質的な収容を行わず、SCP-3088-JP-Aにより生じる死亡事故の事後処理のみを行うという手法を提案しました。
この提案手法の最大の問題点は、地上波やインターネット上にSCP-3088-JP-Aが公開されることにより不特定多数の人間が即死する可能性が存在するという部分にあります。一方で、SCP-3088-JP-Aとベリーマン=ラングフォード・ミーム殺害エージェントの類似性が知られていない状態であれば、仮に敵対組織にSCP-3088-JP-Aが露呈した場合であっても財団のセキュリティ上の脅威になり得ません。この危険性と前述の情報漏洩リスクのどちらを重く見るかが3088-JP収容チームと欺瞞部門の議論の焦点でした。
最終的に、以下の部分が特に重要と判断され、現在の収容方針が確立されるに至りました。
- 地上波やインターネット上にSCP-3088-JP-Aがアップロードされるためには、画像生成から人によるチェックや画像圧縮などの処理が一切行われない状態で高々10-6オーダー程度の確率でしか発生しないSCP-3088-JPが発生している必要があり、極めて稀なケースと考えられる。
- ネット掲示板やSNS等へのミ―マティックメディアの投稿は頻繁に発生しており、仮にSCP-3088-JP-Aがインターネット上に公開されたとしても既存の事後処理のノウハウが流用できる。
以上の理由から、現時点においてSCP-3088-JPに関しての本質的な収容は行われません。これはあくまでも現時点での社会情勢に則った結論であり、いまだ黎明期である一般社会における機械学習技術の動向によっては再度の議論が必要となる可能性は大いにあります。
AIの普及に伴いSCP-3088-JPの発生件数は増加傾向にあるものの、直近三年間でのSCP-3088-JP-Aに由来すると考えられる死亡者数は年間で約1,000人程度2に留まっており、これは功利的正常性の維持において許容される範疇であると看做されています。