ブログ

Jun 04, 2023

「誰が考えるか」から「何を考えるか」へ：歴史から紐解くAI

Potresti aver sentito Elon Musk mettere in guardia sui pericoli per l'umanità.

イーロン・マスク氏が人工知能の危険性について人類に警告したことを、もう聞いたことがあるかもしれません。 シリコンバレーの巨人に対する個人の留保の違いに関係なく、私たちの現実の構築がこれまで以上に不安定になっているのは否定できません。 テクノロジーの発展がこれほど制御不能かつ不可逆的な速度で進行する中、過去数十年間に学者たちが発してきた数多くの先見の明に満ちた警告を振り返る必要がある。

人間の精神の能力の範囲内でのみ行われると考えられていたことを機械が実行できるという概念は、数学者アラン・チューリングの 1950 年の実験、「チューリング テスト」に遡ります。 チューリングの実験では、参加者はコンピューター端末で受信したメッセージの送信者が人間なのか機械なのかを推測しました。 トリノは、機械が人間の意識を模倣し、巨大な記憶装置として機能することができれば、実際に人間になれると主張した。 その後、機械と人間の知性が融合して「サイボーグ」が誕生します。 アメリカの文芸評論家キャサリン・ヘイルズの言葉を借りれば、「あなたはサイボーグであり、サイボーグはあなたです。」 その結果、啓蒙主義以来広く「人間」とみなされてきたリベラルな主体は、現在では「ポストヒューマン」となっている。

チューリングの実験とヘイルズの議論から数十年が経ち、現代の iPhone は何百もの複雑なパスワードを作成し、記憶します。 iPad は授業のメモを保存し、あなたの声に反応します。 Apple Watch は心拍数を測定し、カロリーを追跡します。 このように簡単にアクセスできるリソースがあると、電子機器のない生活は考えられなくなります。 この依存は多くの面でポジティブではありますが、自分の 2 つのバージョンが存在することを想像すると、不気味になります。1 つは血と肉で構成され、もう 1 つは完全なデジタル環境で記号やシンボルの形で存在します。 複雑でよく考えられたエッセイを即座に作成できるロボットに到達するのに数秒しかかからない現在、テクノロジーを人間の主体から有意義に分離することはもはや不可能であると結論付けるのは安全であるように思われます。

情報が肉体から逃れ、物質性が時代遅れになるこの新しいポストヒューマンパラダイムでは、シリコンバレーの発案を利用する際には慎重になることが不可欠であるように思われる。 AI の具体的な影響を明らかにする科学的事実と、テクノロジーの発展の結果として人類が直面する複雑な社会的、文化的、政治的問題を明らかにする文学的文章の両方を積極的に研究することが重要です。

この新たな啓示は、人間が自分の体を単なるファッションアクセサリーとして扱うことができるようになったことを意味するのでしょうか? 必ずしも。 ヘイルズは、1999 年の著書『いかにしてポストヒューマンになったか』の中で、理想的なポストヒューマン世界を「無限の力や肉体を持たない不死の幻想に誘惑されることなく、情報技術の可能性を受け入れる」世界であると述べています。 さらにヘイルズは、この世界は「人間の条件として有限性を認識し、祝う」べきだとも述べている。 このビジョンは現実に現れたようで、権力が最も集中している組織は洗練されたテクノロジーと仮想性を誇っているようです。 例えば国防総省は現在、自らを戦争が行われる「前例のない劇場」とみなしている。 そうは言っても、現代の学者たちが提起した懸念により、ヘイルズのビジョンの達成はますます困難になっています。

ヘイルズの先見的なポストヒューマニスト介入の出版から20年後、社会学者でプリンストン大学教授のルハ・ベンジャミンは「ニュー・ジム・コード」という用語を作り出した。 この考え方は、階層構造を拡大し、社会的分断を再現するために明示的に機能する、テクノロジーにおける一連の差別的な設計を指します。 簡単に言うと、現代の人間の経験のほぼすべての隙間に浸透しているテクノロジーは、体系的な不平等を再現し、悪化させる可能性があり、時にはその逆を促進するように見える、欺瞞的で心地よい外観を身につける可能性があります。 Benjamin が正しく指摘したように、現状ではこのコードを具体化する新しいアプリケーションが多数存在します。

Beauty AI は、オーストラリアと香港のさまざまな個人の健康とウェルネスの団体によって開発された取り組みで、ロボットによって審査される史上初のビューティー コンテストとして宣伝されました。 このアプリでは、出場者が自撮り写真を撮り、その写真をロボット陪審が審査し、ロボット陪審がキングとクイーンを選出する。 ロボット審査員はしわ、顔の対称性、肌の色、性別、年齢、民族に基づいて出場者を評価するようにプログラムされていたが、ビューティー AI の開発者は 2016 年に「ロボットは肌の色が黒い人を好まない」と表明した。勝者44人は白人で、このような機械を作成した人間の「深く根付いた偏見」によってアルゴリズムが偏っているのではないかという懸念の高まりを裏付けた。

美容アプリケーションの事例研究がなぜ人類の将来に重大な影響を与えるのか疑問に思う人もいるかもしれないが、現実には、こうした国際的な取り組みの影響がシリコンバレーの有力企業のオフィスにも及んでいる。 まず、テクノロジー企業が黒人文化の「許容される」側面を選択的に吸収し、その残存物を完全に放棄する傾向は、偏った人間が最終的に偏った機械をどのように生み出すかについて懸念を引き起こしています。 ベンジャミンは著書の中で、同社で仮想アシスタント Siri の音声認識を開発した経験を説明した元 Apple 従業員の逸話を思い出しています。 彼のチームはオーストラリア英語、シンガポール英語、インド英語などのさまざまな英語の方言を開発しましたが、上司が「Apple 製品はプレミアム市場向けである」と述べたため、Apple はアフリカ系アメリカ人の現地英語の方言には取り組んでいませんでした。 皮肉なことに、これはアップルがアフリカ系アメリカ人のラッパー、ドクター・ドレーのヘッドフォン・ブランド「ビーツ・バイ・ドクター・ドレー」を10億ドルで買収したわずか1年後の2015年に起きた。 ベンジャミンの逸話は、強力な企業が何らかの形で黒人性の価値を下げると同時に高く評価する傾向を強調しているようで、黒人性は人間よりもはるかに賢い開発された機械に直接受け継がれている。

テクノロジーが個人の名前の民族的意味合いのみに基づいて個人にラベルを付ける場合、同様の形態のテクノロジーが個人の生活のあらゆる側面に影響を与えることを想像するのは難しくありません。 空港審査から住宅ローン、求人応募からオンライン ショッピングに至るまで、テクノロジーはユーザーとその生活の質に影響を与えます。 このような状況下では、ポストヒューマニストの議論はさらに強化されるだけであり、理想的なポストヒューマン世界はさらに損なわれることになる。 「大量絶滅」や「文明の破壊」について深く考えるのは少し時期尚早に思えるかもしれないが、学者らによる介入は、テクノロジーが肉体と交差するにつれて人類が取り返しのつかないほど広範で複雑な結果を得る可能性があることを何度も警告している。

韓国ソウル出身の So Jin Jung は、政治とジャーナリズムに情熱を注ぐオピニオンコラムニストです。 彼女への連絡先は [email protected] です。

ミシガン・デイリー紙への寄付をご検討ください。