これは、今年最も注目を集めるテクノロジーのテーマである人工知能にとって、政治的な最高点となる。 英国首相 リシ・スナック 11月1日と2日に政治、ビジネス、科学の代表者を招待した。 機会は英国 AI セキュリティ サミット (英国 AI セキュリティ サミット）。 この場所自体が歴史的な場所です。 の中に ブレッチリー パーク カントリー エステート かつて分析者たちは、第二次世界大戦中にナチスからの暗号メッセージの解読に取り組んでいました。 今週、ブレッチリー・パークの指導者らは、いわゆるAIの危険性について話し合う予定だった。

参加者の皆様へ 欧州委員会のウルズラ・フォン・デア・ライエン委員長（CDU）に加え、アメリカのカマラ・ハリス副大統領、ドイツのロバート・ハベック副首相（緑の党）も出席した。 中国、インド、インドネシア、ブラジル、日本、韓国、サウジアラビアなどからも代表者が参加した。 イーロン・マスク氏（Twitter、Tesla）やサム・アルトマン氏（OpenAI、ChatGPT）などのテクノロジーリーダーのほか、メタ社、グーグル社、アマゾン社、アリババ社など多くの企業の代表者が招待された。 英国ガーディアン紙がそれについて語る 「外交クーデター」。

国際首脳会議にふさわしく、会談は共同書簡で終了した。 ザ 「ブレッチリー宣言」 約 8,000 文字で人工知能の機会と危険性、そして署名者がそれらにどのように対処したいかを説明しています。

この宣言は、人工知能を規制する国際的な取り組みの一環である。 こうして欧州連合は力を失いつつある AI規制の交渉中国の新たなAI規則は8月に発効予定 施行されました。 そして米国では今週、ジョー・バイデン大統領が 法令を発令する、より厳格な規則を開始することを目的としています。 一方、企業は、テキスト、画像、音声などの大量のデータに基づいて新しいコンテンツを作成する、いわゆる生成 AI に数十億ドルを投資しています。

ブレッチリー氏の声明は時代精神について多くのことを語っている。文章が人工知能についてどのように正確に説明しているのか、人工知能が直接扱っている危険性と解決策は何か、そしてどれがそうではないのかを検討する価値がある。 そして、この声明にもかかわらず、またはまさにこの声明のせいでどの問題が解決されないのかが明らかになります。

「Frontier AI」: スタートレックからのご挨拶

説明の中心となるのは、8回も登場する「ボーダー」というまばゆい言葉だ。 文脈に応じて、「フロンティア」はフロンティア、フロンティア、または新しい領域と翻訳できます。 アメリカの文脈では、この用語は新しくて不確実な領域への冒険を連想させます。 前記の “ワイルドウェスト» 北米植民地時代、今日の宇宙と同じように「フロンティア」。 最近の歴史で使用されている NASA この用語は空間と（架空の）空間を指します。 スタートレック シリーズ。

そして今、AI システムは最高の政治レベルで「フロンティア」として提示されています。 ブレッチリー氏の声明によれば、これらは「高性能の汎用AIモデル」だという。 この定義は非常に曖昧ですが、私たちが以前 netzpolitik.org で「偉大な SF スペクタクル」と表現した、ほぼ超人的な AI テクノロジーのふわっとした物語に完全に当てはまります。 これらの話は確かに、ChatGPT のような非常に高価なアプリケーションを単独で運用している大企業のマーケティング上の利益によっても推進されています。 信用融資。 彼らは大きな約束を掲げて、多額の資金の注入を期待している。

「フロンティア」という言葉を付け加えなくても、人工知能という言葉は依然として不明確です。 大量のデータを連携させ、それに基づいて答えを計算するアプリケーションの総称です。 彼らは、以前は機械ではなく人間に期待されていたタスクを解決します。 この用語は常に変化しています。 以前 Apple の Siri のような支援システムはまだ「AI」とみなされていました。 現在、Siri は一部の人にとってその地位を失っており、メディアは Siri がその地位を失っているかどうかという奇妙な質問をしています。 「AI」を搭載。 でなければなりません。 これは明らかに、ChatGPT スタイルの新しいタイプの生成 AI です。 「AI」というステータスは、人々がまだ慣れていない有望なテクノロジーに与えられているようです。

ブレッチリー宣言は、冒頭で次のように述べており、一部の業界代表者の大きな約束を繰り返しています：AIには「人間の幸福、平和、繁栄を変え、改善する可能性がある。 » OpenAI も驚くほど同様の状況を経験しました。 彼のような ポッドキャストで 「私たちは世界を素晴らしいものにすることができ、人々の生活も素晴らしいものにすることができます。 結局のところ、アルトマンはこの熱意を批判し、「ユートピア的なテクノロジー仲間のように聞こえるのは嫌いだ」と述べた。 » ブレッチリー宣言にはそのような分類はありません。 署名者たちは、距離を置くことなく、彼らのユートピア的な技術者的な態度を認識しています。

口頭でのグループハグ

ブレッチリー氏の声明を読むと、少し心が温かくなるかもしれない。 結局のところ、数十の国が「すべての人の利益のために」AI に賛成しているのです。 それは「安全で人間中心、信頼できる責任ある方法で設計、開発、展開、使用される」必要があります。 この目的のために、署名者は自らを「統合的な方法で協力することに尽力している」と述べています。 中国、サウジアラビア、アラブ首長国連邦のような権威主義国家さえも署名している。

署名者は、AIシステムのリスクに関する科学的研究と、これに基づく規則の開発に計画を基礎づけることを望んでいる、とプレスリリースは続けている。 企業は透明性を確保する必要があります。 彼らはまた、連絡を取り合い、2024 年に再会したいと考えています。

外交的には、これは成功する可能性が高い。2日間のサミットの終わりに、多くの国が支持する宣言は口頭でのグループハグのように聞こえる。 一緒に調べて、一緒に話し合ってください。何もなければ。 ただし、ストップワードを押すと、空虚で重苦しい音が聞こえます。

AI システムは、「安全」でも「信頼」でも「責任」もなく、人々の「幸福」を組織的に害するものとして長い間使用されてきました。 街中のカメラが不審な動きを捉えているという。 人事部門のソフトウェアは次のことを行う必要があります。 おそらく悪いアプリ 選別。 コンピュータプログラムは警察に場所を知らせることになっている いわゆる犯罪者 住むこと。 EUの外境に設置された嘘発見器は、 亡命希望者についての真実 言う。 自動操縦は、武装したドローンが敵と思われる人物に近づく前に制御するように設計されています 爆発する。

柔らかいおむつ: 人権への「取り組み」

EUのAI規制に関する交渉では、民主主義国家ですら問題のあるAIシステムの使用制限に抵抗し、特に例外を交渉して新たな規制を骨抜きにしようとしていることがすでに示されている。 AI規制が禁止を通じて大規模な生体認証監視を抑制できるかどうかは依然として疑問だ。

ブレッチリー氏の声明では、「AIシステムはすでに日常生活の多くの分野で使用されている」と述べられている。 しかし、説明はそれ以上進みません。

非常に繊細に表現された別の文があります。「私たちは、人権、倫理、データ保護、偏見の制御に「対処」しなければならないという認識を「歓迎」します、と私たちは言います。 人権への明確な取り組みは異なって見えるため、これは致命的な省略です。 もっと明確に言うと、もし誰かが私の車を大破させたあと、「あなたの費用の弁済に対処する必要があるという認識に感謝します」と言ったら、おそらくその人は、「私のお金は一セントももらわないよ」と言っているのでしょう。 。

ブレッチリー宣言には人権という言葉が合計３回、同じような形で３回出てきます。 国際社会がすでに人権をこれほど重視しているのであれば、将来的に「すべての利益」となるテクノロジーをどのように形づくるべきでしょうか?

本当の「国境」

不都合な真実は、人工知能も他のテクノロジーと同様に社会状況に根ざしているということです。 AI システムは力関係の中で開発され、使用されます。 これらの力関係を強化、さらには強化することができます。 しかし、ブレッチリー氏の声明はこれを回避している。

テクノロジーの最大の危険は、特権的な人々が AI システムを開発し、それによって故意か過失かにかかわらず、疎外された人々に対する権力の地位を高めることです。 たとえば、州が反亡命政策や人種差別政策をとっている場合 顔認識経由 保護を提供したくない人々を排除します。 あるいは、白人男性グループのメンバーであれば、 できる 大多数の企業は、どのアプリケーションが最終候補に挙げられるかを AI システムに決定させています。

不当な社会的力関係は、社会的にのみ戦うことができます。 まさにこれが、基本的権利と人権が発明された理由です。 主題に「フロンティア」、つまり大胆に探索できるフロンティアや新しい領域がある場合、これは一貫したアプリケーションです。 これ 右。

十分にうまく設計できれば、テクノロジーだけで世界を改善できるという期待は、テクノロジー解決主義と呼ばれます。 機械が人々の問題を解決できるという誤解があります。 そして、ブレッチリー宣言が AI を「すべての人々の利益のために」、AI によって生み出される「平和」と「繁栄」を称賛している時点で、それはすでに純粋な技術的解決主義です。

AI は単なるソフトウェア、つまり人間の手に渡って初めて効果を発揮するツールであることは明らかです。 ブレッチリー宣言が、年次総会における透明性の向上、研究、国際対話の基礎を築くことは確かに間違いではありません。 しかし、参加者は本当の「国境」にはほとんど足を踏み入れなかった。