TEDにて
マーガレット・ミッチェル: 人類の役に立ち、傷つけないAIはどうしたら創造できるか?
(詳しくご覧になりたい場合は上記リンクからどうぞ)
注意!!現在、基本的人権を侵害するストーカーアルゴリズムしか能力のない人工知能です。
注意!!現在、基本的人権を侵害するストーカーアルゴリズムしか能力のない人工知能です。
注意!!現在、基本的人権を侵害するストーカーアルゴリズムしか能力のない人工知能です。
Googleのリサーチ・サイエンティストとして、マーガレット・ミッチェルは、見たものや理解したことを人間とコミュニケートできるコンピュータの開発に従事しています。
彼女は、私たちが無意識のうちにAIに埋め込んでしまっている「論理の飛躍」や「盲点」「先入観」の危険性について語ります。
私たちが、今日、築き上げた技術が、明日にどのような意味を持つのかを考えてほしいと訴えます。
「現在、私たちが見ているものは、進化し続けるAIの一瞬をとらえたものにすぎません!」と彼女は言います。
「もし、人間に役立つようにAIを進化させたいなら、今、ゴールと戦略を明確にして、道筋をつけなければなりません!」
コンピューターが、私たちの周りの世界について情報交換する研究をしています。
やり方はたくさんありますが、中でも私が力を入れているのは、コンピューターが見て理解したものを語らせることです。
こんなシーンがあると最近のコンピュータービジョンのアルゴリズムは、女性と犬が映っていて女性が笑顔だと教えてくれます。
またその犬がとてもかわいいとも教えてくれるかもしれません、私はこの研究にあたって人間がどのように世界を理解し、処理するのか考えます。
このようなシーンを見た時に人間が引き起こす思考や記憶、物語などです。関係するシチュエーションのすべてをお互いにつなぎ合わせることです。みなさんもこれまでに、こんな犬を見たことがあるでしょう。
こんなビーチで走ったことがあるかもしれません。休暇のときに考えたことや記憶、ビーチで過ごした時間、別の犬と走り回った思い出なども思い起こしたかもしれません。
私の基本理念の一つは、このような経験の意味をコンピューターに理解させたり、私たちが共有し、信じ、感じたものを理解させたりすることで
私たち自身の経験を補完する方向にコンピューター技術を進化させるという重要な役割を担うということです。
さらに深堀りしていきましょう。数年前、私はある研究を始めました。一連の画像からコンピューターに人間らしい物語を作らせる試みです。
ある日のことオーストラリア旅行のことを考えるようコンピューターに尋ねました。画像の中からコアラを見つけました。コアラが何なのかコンピューターは知りません。
でも「コアラが面白い外見の動物だ」と言ったのです。また家が焼け落ちる一連の画像を見せたこともありました。
それを見てコンピューターはこう言いました「これはすごい光景だ!壮観だ!」
私の背筋が凍りました。
コンピューターが見たものは、命の危険を伴うような恐ろしい出来事ですが、何か良いことのように解釈しているのです。
概念からではなく、画像からコントラストや赤や黄色を認識し、なにか良いことと解釈するに値すると判断しただけなのです。
そしてコンピュータがそう思ったのは、与えた画像のほとんどが、肯定的なものだったせいもあるでしょう。
実際、私たちが自分の経験を人に話すときは、肯定的な画像を共有しようとしますよね。お葬式での自撮り写真なんか見たことがありますか?
AIの研究をしていて気づいたことがあります。数々の課題やデータセットを扱う中でコンピューターが理解できるものの中に大きな飛躍、欠落、盲点を生み出していました。
またその過程であらゆる種類の先入観を埋め込んでいました。限定された観点による先入観、単一のデータセットによる先入観、データ中の人間の先入観を反映することもあります。
偏見や固定観念などです。
私をその日まで導いたテクノロジーの進化を振り返ってみました。初めてのカラー画像の色合いは、白人女性の皮膚の色を基準に調整されていました。黒人の顔は、基準から外れるという意味です。
また同様の先入観や盲点が、90年代に入ってもずっと続きました。同じような盲点が今日までも続いていて異なる人間の顔をいかに区別して認識するかを研究する顔認識技術の分野に見られます。
今日の研究の最先端について思うのは、1つのデータセット。1つの課題に考えを限定しがちで、そのせいでさらに盲点や先入観を生み出し、AIがさらにそれを増幅する可能性があることです。
だから当時私たちは、今研究しているテクノロジーが、5年後、10年後にどう見えているかを深く考えなければならないと思いました。
人間はゆっくり進化し、その間に人間同士の関係や周囲の環境について問題を是正する時間があります。
一方、人工知能は、信じられないほどの速さで進化しています。だから私たちは、なおさら今すぐこのことを慎重に検討し、私たち自身の盲点や先入観についてよく考えなければなりません。
また、それらが私たちのテクノロジーにどのように情報を供与するかを考え、今日のテクノロジーが明日どのような意味を持つのか議論しなければなりません。
企業のトップや科学者は、自分たちの考えた来るべき未来の人工知能技術に力を注いできました。
スティーブン・ホーキングは「人工知能が人類を滅ぼす可能性がある」と警鐘を鳴らしています。
イーロン・マスクは、人工知能を私たちの文明が直面する存亡に関わる最大級の脅威だと警告します。
ビル・ゲイツも「なぜ皆が心配しないのか理解できない」と指摘しています。
しかしそれらの見方は、ほんの一部の意見です、数学やモデルなど人工知能の基本的な構成要素は、誰でもアクセスして利用できるものです。
機械学習・人工知能向けのオープンソース・ツールがあり、私たちが貢献することもできます。
さらに個人の経験も共有できます。技術についての経験やそれがどのように自分たちに関係し、興奮させるかを共有できます、大好きなものについて意見交換ができます。
技術的な側面のうち時間が経つにつれて次第に有益になる面や問題を生み出す面について私たちは展望を持って話し合うことができます。
もし私たち皆が未来への展望をもってAIに関する議論の輪を広げることに注目すれば、現在のAIはどのようなものかこれからどのようになりえるのか。
そして、自分たちに最適な最終結果を得るためにしなければならないことについて一般的な議論や認識が高まるでしょう。
私たちは、このことを現在のテクノロジーを見て知っています。スマートフォン、デジタルアシスタント、そして「ルンバ」などです。
それらは悪でしょうか?時にはそうかもしれません。
では有益なものでしょうか?そうともいえます。
そして、すべてが同じではありません、また、未来に輝くものがすでに見えます。
私たちが今作り上げているものが、未来へと続きます。AIの進化の道すじを切り開くドミノ効果を作動させます。
今この時、私たちは明日のAIを形作っているのです。過去の世界を拡張現実として蘇らせ、人間を夢中にさせる技術。
また、コミュニケーションが難しい時でも経験を共有するのに役立つ技術もあります。
常に変化する「ストリーミング」の性質を持つ視覚世界の理解を基礎にした技術は、自動運転車に使われます。
画像を理解し、言葉を生み出す技術は、視覚障害者が視覚世界にアクセスすることを支援する技術へと進化しています。
同時に、そうした技術が引き起こす問題もあります。
現在、ヒト生来の身体的な特徴。たとえば、皮膚の色や顔の外見などを解析する技術があり、それで犯罪者やテロリストかどうかを識別しようとします。
ローンの承認審査のために性別や人種に関わるデータまで含めて大量のデータを処理する技術があります。
現在私たちが見ているものは、進化し続けるAIの一瞬をとらえたものにすぎません。なぜなら私たちは、今まさにAI進化の途上にあるからです。
つまり、私たちが今やったことが将来起こることに影響するということです。もし人間に役立つようAIを進化させたいなら、今、ゴールと戦略を明確にして道筋をつけなければなりません。
私が期待するのは、人間やその文化、そして環境によくなじむAIです。神経疾患などの障害を抱えていても誰もが同じようにやりがいを感じて生きることを補助してくれる技術です。
その人の属性や皮膚の色によらず、うまく機能する技術です。そして今日、私がお話ししてきたのは、明日へ。そして10年後へとつながる技術です。
AIは、様々な方向に進む可能性がありますが、それらは目的地のない自動運転車ではありません。まさに私たちが運転している車なのです。
いつ加速するか、ブレーキを踏むか、いつ曲がるか、それを私たちが選ぶのです。そして、未来のAIがどうなるかについても私たちが選ぶのです。
AIがなれるものの可能性は広大です。
いろいろなものに発展するでしょう。
どうなるかは私たち次第です。
どうか考えてみてください。
AIのもたらすものが私たちすべてにとってよりよいものになるよう今何をすべきかを。
ありがとうございました。
技術が、すべてのことを解決できると言いますが、我々が、100倍エネルギー効率のいい乗り物を作ることができるとすれば、大枠としてこれは正しい意見です。
しかし、エネルギー効率ではなく、生産性を高めた結果、イギリスは見事に産業が空洞化してしまいました。
参考として・・・
月面は、太陽風によりもたらされたヘリウム3が、鉱物資源として豊富に存在していることが確認されています。原子力発電や核融合に最適です。
注意事項として、基礎技術にリープフロッグは存在しません。応用分野のみです!
注意事項として、基礎技術にリープフロッグは存在しません。応用分野のみです!
注意事項として、基礎技術にリープフロッグは存在しません。応用分野のみです!
情報技術の発展とインターネットで大企業の何十万、何百万単位から、facebook、Apple、Amazom、Google、Microsoftなどで数億単位で共同作業ができるようになりました。
現在、プラットフォーマー企業と呼ばれる法人は先進国の国家単位レベルに近づき欧米、日本、アジア、インドが協調すれば、中国の人口をも超越するかもしれません。
法人は潰れることを前提にした有限責任! 慈愛や基本的人権を根本とした社会システムの中の保護されなければならない小企業や個人レベルでは、違いますが・・・
ヨーロッパでの一般データ保護規則(GDPR)でも言うように・・・
年収の低い個人(中央値で600万円以下)から集めたデータほど金銭同様に経済的に高い価値を持ち、独占禁止法の適用対象にしていくことで、高価格にし抑止力を持たせるアイデア。
自分自身のデータを渡す個人も各社の取引先に当たりデータに関しては優越的地位の乱用を年収の低い個人(中央値で600万円以下)に行う場合は厳しく適用していく。
キャシーオニールによると・・・
思考実験をしてみましょう。私は、思考実験が好きなので、人種を完全に隔離した社会システムがあるとします。どの街でも、どの地域でも、人種は隔離され、犯罪を見つけるために警察を送り込むのは、マイノリティーが住む地域だけです。すると、逮捕者のデータは、かなり偏ったものになるでしょう。
さらに、データサイエンティストを探してきて、報酬を払い、次の犯罪が起こる場所を予測させたらどうなるでしょう?
あら不思議。マイノリティーの地域になります。あるいは、次に犯罪を犯しそうな人を予測させたら?あらら不思議ですね。マイノリティーでしょう。データサイエンティストは、モデルの素晴らしさと正確さを自慢するで���ょうし、確かにその通りでしょう。
さて、現実は、そこまで極端ではありませんが、実際に、多くの市や町で深刻な人種差別があり、警察の活動や司法制度のデータが偏っているという証拠が揃っています。実際に、ホットスポットと呼ばれる犯罪多発地域を予測しています。さらには、個々、人の犯罪傾向を実際に予測しています。
ここでおかしな現象が生じています。どうなっているのでしょう?これは「データ・ロンダリング」です。このプロセスを通して、技術者がブラックボックスのようなアルゴリズムの内部に醜い現実を隠し「客観的」とか「能力主義」と称しているんです。秘密にされている重要で破壊的なアルゴリズムを私はこんな名前で呼んでいます「大量破壊数学」です。
民間企業が、私的なアルゴリズムを私的な目的で作っているんです。そのため、影響力を持つアルゴリズムは私的な権力です。
解決策は、データ完全性チェックです。データ完全性チェックとは、ファクト(事実)を直視するという意味になるでしょう。データのファクトチェックです!
これをアルゴリズム監査と呼んでいます。
最後に、マクロ経済学の大目標には、「長期的に生活水準を高め、今日のこども達がおじいさん達よりも良い暮らしを送れるようにする!!」という目標があります。
経済成長を「パーセント」という指数関数的な指標で数値化します。経験則的に毎年、経済成長2%くらいで巡航速度にて上昇すれば良いことがわかっています。
たった、経済成長2%のように見えますが、毎年、積み重ねるとムーアの法則みたいに膨大な量になって行きます。
また、経済学は、大前提としてある個人、法人モデルを扱う。それは、身勝手で自己中心的な欲望を満たしていく人間の部類としては最低クズというハードルの高い個人、法人。
たとえば、生産性、利益という欲だけを追求する人間。地球を救うという欲だけを追求する人間。利益と真逆なぐうたらしたい時間を最大化したいという欲を追求する人間。などの最低生活を保護、向上しつつお金の循環を通じて個人同士の相互作用も考えていく(また、憎しみの連鎖も解消する)
多様性はあるが、欲という側面では皆平等。つまり、利益以外からも解決策を見出しお金儲けだけの話だけではないのが経済学(カントの「永遠平和のために」思想も含めて国家や権力者は透明性を究極にして個人のプライバシーも考慮)
(個人的なアイデア)
電気を作る熱力学のサイクルで熱効率は、ほぼ50%、45%~50%の効率まで高めることは可能ですが・・・
高温の物体から熱を受け取り、電気という「使えるエネルギー」に変換できる機械を一般的に「熱エンジン」と呼んでいる。
高温の物体から受け取った熱エネルギーのうち、どれだけ活用できたかという比率を「効率」と物理学では定義している。
この効率は、原理的に超えられない「カルノー効率」という上限があることが知られている。
カルノー効率が達成されると、効率は上がるが、同時に仕事率がゼロになる現象。
つまり、熱エンジンの効率を最大限に上げると出力がほぼゼロになることを意味しています。そして、効率100%は物理的に不可能ということです。
中世で試行錯誤が行われたことに終止符が示され、機械での永久機関は作れないことが、この現象から理解できます。エネルギー保存の法則からも理解できます。
他には、燃料の持つエネルギーをどれだけ動力として取り出すことができるか?これをエンジンの熱効率と定義しています。
2020年の段階で、ガソリンエンジンの熱効率は最高で40%前後あり、10年くらい前までは30%程度。低燃費の技術競争もあるけどカルノー効率から限界も見え始めています。
だから、ガソリン自動車から電気自動車へ世界中の法人が開発を加速して切り替えている潮流があります。
そして
前提として、公人、有名人、俳優、著名人は知名度と言う概念での優越的地位の乱用を防止するため徹底追跡可能にしておくこと。
人間自体を、追跡すると基本的人権からプライバシーの侵害やセキュリティ上の問題から絶対に不可能です!!
これは、基本的人権がないと権力者が悪逆非道の限りを尽くしてしまうことは、先の第二次大戦で白日の元にさらされたのは、記憶に新しいことです。
マンハッタン計画、ヒットラーのテクノロジー、拷問、奴隷や人体実験など、権力者の思うままに任せるとこうなるという真の男女平等弱肉強食の究極が白日の元にさらされ、戦争の負の遺産に。
基本的人権がないがしろにされたことを教訓に、人権に対して厳しく権力者を監視したり、カントの思想などを源流にした国際連合を創設します。他にもあります。
参考として、フランスの哲学者であり啓蒙思想家のモンテスキュー。
法の原理として、三権分立論を提唱。フランス革命(立憲君主制とは異なり王様は処刑されました)の理念やアメリカ独立の思想に大きな影響を与え、現代においても、言葉の定義を決めつつも、再解釈されながら議論されています。
また、ジョン・ロックの「統治二論」を基礎において修正を加え、権力分立、法の規範、奴隷制度の廃止や市民的自由の保持などの提案もしています。現代では権力分立のアイデアは「トリレンマ」「ゲーム理論の均衡状態」に似ています。概念を数値化できるかもしれません。
権限が分離されていても、各権力を実行する人間が、同一人物であれば権力分立は意味をなさない。
そのため、権力の分離の一つの要素として兼職の禁止が挙げられるが、その他、法律上、日本ではどうなのか?権力者を縛るための日本国憲法側には書いてない。
モンテスキューの「法の精神」からのバランス上、法律側なのか不明。
立法と行政の関係においては、アメリカ型の限定的な独裁である大統領制において、相互の抑制均衡を重視し、厳格な分立をとるのに対し、イギリス、日本などの議院内閣制は、相互の協働関係を重んじるため、ゆるい権力分立にとどまる。
アメリカ型の限定的な独裁である大統領制は、立法権と行政権を厳格に独立させるもので、行政権をつかさどる大統領選挙と立法権をつかさどる議員選挙を、別々に選出する政治制度となっている。
通常の「プロトコル」の定義は、独占禁止法の優越的地位の乱用、基本的人権の尊重に深く関わってきます。
通信に特化した通信プロトコルとは違います。言葉に特化した言葉プロトコル。またの名を、言論の自由ともいわれますがこれとも異なります。
基本的人権がないと科学者やエンジニア(ここでは、サイエンスプロトコルと定義します)はどうなるかは、歴史が証明している!独占独裁君主に口封じに形を変えつつ処刑される!確実に!これでも人権に無関係といえますか?だから、マスメディアも含めた権力者を厳しくファクトチェックし説明責任、透明性を高めて監視しないといけない。
今回、未知のウイルス。新型コロナウイルス2020では、様々な概念が重なり合うため、均衡点を決断できるのは、人間の倫理観が最も重要!人間の概念を数値化できないストーカー人工知能では、不可能!と判明した。
複数概念をざっくりと瞬時に数値化できるのは、人間の倫理観だ。
そして、サンデルやマルクスガブリエルも言うように、哲学の善悪を判別し、格差原理、功利主義も考慮した善性側に相対的にでかい影響力を持たせるため、弱者側の視点で、XAI(説明可能なAI)、インターネット、マスメディアができるだけ透明な議論をしてコンピューターのアルゴリズムをファクトチェックする必要があります。
<おすすめサイト>
ニコラ・スタージョン:行政府が低収入者へのウェルビーイング(幸福度)を最優先するべき理由
アンナ・ピペラル:エストニアの電子政府とはどのようなものか?
ケイド・クロックフォード:顔認証による大衆監視について知る必要のあること!
マイケル・サンデル:メリトクラシー(能力主義)の横暴
ジーナップ・トゥフェックチー: ネット広告アルゴリズムの仕組みが拓くディストピアへの道
マルグレーテ・ベステアー: 大企業による市場独占の新たな時代
ホルム・ミスタッド:テクノロジー企業があなたを欺いてデータとプライバシーを放棄させる手口
ルトハー・ブレフマン:貧困は「人格の欠如」ではなく「金銭の欠乏」である!
個人賃金→年収保障、ベーシックインカムは、労働市場に対する破壊的イノベーションということ?2022(人間の限界を遥かに超えることが前提条件)
世界の通貨供給量は、幸福の最低ライン人間ひとりで年収6万ドルに到達しているのか?2017
<提供>
東京都北区神谷の高橋クリーニングプレゼント
独自サービス展開中!服の高橋クリーニング店は職人による手仕上げ。お手頃50ですよ。往復送料、曲Song購入可。詳細は、今すぐ電話。東京都内限定。北部、東部、渋谷区周囲。地元周辺区もOKです
東京都北区神谷のハイブリッドな直送ウェブサービス(Hybrid Synergy Service)高橋クリーニングFacebook版
0 notes