「対策は暗い未来への道を開く」

Posted On: 4月 15, 2023

夜眠れない原因について話したいと思います。重要なことに、これには、複雑な社会問題に対して偽の技術的解決策を提供する現在の規制提案の洪水が含まれています。これらの解決策は、プライバシーの権利を不正行為と同一視しています。そして、彼らはプライバシーを廃止することによって悪行を抑圧したいと考えています.

脆弱なソリューションの復活

私は 20 年近く技術に携わってきましたが、同じ会話が衰退し、消えては戻ってくるのを見てきました。

パターンは次のようになります。複雑で悲惨な社会問題が、規制当局やメディアの注目を集めています。誰もが問題の深刻さと解決の緊急性を認識しています。私たちは悩み、心配し、感情的です。そして、人々は「何かをする」ことを急いでいます。

それから、私たちは同じ薄っぺらな「解決策」を提示されます。世界の悪を正すには、私的なコミュニケーションを制限する必要があると彼は言います。

大量監視の危険性

コンピューティングの歴史には、大量監視の危険性を示すエピソードがたくさんあります。それはの使用から来ます IBM のホレリスマシンホロコーストを組織するためにそれを使用したナチス、日系アメリカ人を特定して抑留するために国勢調査データに違法にアクセスするアメリカ当局、人種差別の適用をデジタル化する南アフリカのアパルトヘイト政権の取り組み。そして今日、テクノロジー企業は、米国で刑事医療を求めているユーザーのデータを喜んで引き渡しています。

しかし、私は物語にあまり長くこだわる必要はないと思います。特に権威主義の時代には、大規模な監視の危険性を私たちは皆知っています。

しかし、通信技術の歴史は、文字通り卵を割らずにオムレツを作ることを望んでいた多くの政府の希望的観測を形作ってきました. たとえば、彼らの目標は、「善良な人」だけがアクセスできるバックドアを作成することでした。これらのバックドアは、「全員」による脅威から安全であることを意図していました。

良いバックドアはありません

そのような試みは常に失敗しています。ザ悪名高いクリッパーチップは数ある中の一例に過ぎません。数百万ドルがそのような努力に浪費され、関連するプロジェクトは繰り返し放棄されてきました. 真実は、「私たち」がアクセスを許可するシステムは、「彼ら」、つまり政府、企業、民間機関が依存する重要なインフラストラクチャを危険にさらす敵対的なアクターによって同じように迅速に悪用される可能性があるためです.

しかし、この種の希望的観測は、英国のオンライン安全法、EU の会話制御規則の欠陥のある規定、または国家的なデータ保持の戦いのいずれにおいても、今日でも発生しています。後者の例としては、ベルギーでの暗号化された通信サービスへの攻撃、または個人的な通信データの保持が許可されているかどうか、または単に良い考えであるかどうかについての議論があります。

「バックドア」という言葉は、これらの議論で常に使用されるわけではありません。実際、監視の提案は、少なくとも政策の枠組みという点では、近年ますます洗練されてきています。たとえば、EU の CSAM 法では、多くの提案がエンドツーエンドの暗号化と互換性があると主張していますが、裏付けとなる証拠はありません。彼らは、エンドツーエンドの暗号化を弱めたり廃止したりする慣行を確立したいと考えています。

ファウストの協定

他のものは、魔法の思考の同様に危険ではあるが新しい変種を提供します. 彼らは、バックドアは通用しないことを認めています。代わりに、エンドツーエンドの暗号化の「外側」で大規模な監視を提供し、主にクライアント側の分析システム (CSS) を指します。

暗号化される前に、デバイス上のメッセージをスキャンしますのでご安心ください。禁止された言語の不透明なデータベースと照合して、政府が承認した言論制限内にあるかどうかを確認します. その後？その後、以前と同様に続行して、データを暗号化できます。

クライアント側のスキャンは、エンドツーエンドの暗号化の前提に反するファウスト協定です。この協定は、政府が発言前にすべての発言を文字通り検証することを可能にする非常に安全でない技術を義務付けているためです。

AIは特効薬ではない

CSS は他の問題も引き起こします。これらのシステムは、いわゆる「人工知能」（AI）に基づいているためです。しかし、これらの技術は大規模な誤報を引き起こします。また、防御手段がほとんどない攻撃によってハッキングされる可能性があります。 EU は現在、これらの課題に対処するための AI 規制について交渉中です。この文脈では、AIシステムの欠陥と弱点を注意深く研究した人々をクライアント側分析の議論に含めることが不可欠だと思います. ここでも、他の場所と同様に、AI は奇跡的な解決策ではないことを認識しておく必要があります。

有名人、オピニオンリーダー、そして最後になりましたが政治家が、エンドツーエンドの暗号化を破ることなくコンテンツをスキャンして禁止されたステートメントを見つけることができる技術的ソリューションがあると主張していることは、混乱を招くのと同じくらい驚くべきことです。

私は有名人でもインフルエンサーでもありません。しかし、私はテクノロジーの使い方を知っています。そして、そのようなことはないことを強調したい。それは不可能です。

プライバシーの基本的権利が破壊される

したがって、そうでないと主張する人は、誤った情報を与えられているか、心配して否定している状態にある. あるいは、無意味な技術的解決策を約束することで、誰もがそれについて知る前に、より多くの監視法を可決できることを期待して、危険なほど冷笑的である可能性があります。

しかし、プライバシーのない世界は、力の非対称性が琥珀のように閉ざされた世界です。意見の相違が危険で、親密さが危険な世界です。そして、新しいアイデアを探求したり、素朴な疑問を投げかけたり、未熟な考えを精緻化したりするためのエネルギーが尽きる世界です。

デジタル通信に大きく依存している世界では、暗号化が破られると、プライバシーに対する基本的な権利が実質的に破壊されます。また、商取引、政府、市民社会が依存するデジタルインフラストラクチャのセキュリティも危険にさらされています。

現実に戻る時が来た

ハンガリーでは、LGBTQ の文学や表現と同様に、ゲイやトランスジェンダーの人々が差別され、犯罪者とされています。私が住んでいる米国では、サウスカロライナ州が、犯罪化されたリプロダクティブヘルスサービスを利用する人々に死刑を科す法案を提出しています。また、米国のすべての州が、同性婚を犯罪とする法律を提案しています。一部の州では、異人種間の結婚を禁止することさえ検討しています。

なぜ私はこれについて言及しているのですか？将来的には、禁じられた表現、禁じられた愛、不法なアイデンティティを追跡するために CSS を使用するよう求める人があまりにも多くなる可能性があるからです。将来、あまりにも多くの人々が、魔法のバックドアをこの目的に使用し、大量監視体制を使用して他者を罰することを要求する可能性があるからです.

ネブラスカ州出身の 41 歳の母親、ジェシカバージェスは、もう味わったこの未来. 2022 年、Facebook はジェシカと娘の間のメッセージを法執行機関に漏らしました。これらのメッセージは、彼を犯罪で告発するために使用されました。母親は娘がリプロダクティブヘルスケアを受けるのを手伝ったため、そのようなケアは一夜にして違法とされました。

現実に戻る時が来ました。複雑な社会問題は真剣に受け止める必要があります。しかし、プライバシーを廃止するための感情的な口実としてそれらを使用しても、問題は解決されません。それらが正当化される一見崇高な理由が何であれ、現在ヨーロッパ、英国、そしてその先で検討されている措置は、暗い未来への道を示しています.

このテキストは短縮版ですスピーチの機会にメレディス・ウィテカーを気に入った人 EDRi 20 周年開催。 EDRi は、データ保護とデジタルの自由の権利を専門とする公民権団体の団体です。