kafranbel-aug2011.jpgシリア緊急募金、およびそのための情報源
UNHCR (国連難民高等弁務官事務所)
WFP (国連・世界食糧計画)
MSF (国境なき医師団)
認定NPO法人 難民支援協会

……ほか、sskjzさん作成の「まとめ」も参照

お読みください:
「なぜ、イスラム教徒は、イスラム過激派のテロを非難しないのか」という問いは、なぜ「差別」なのか。(2014年12月)

「陰謀論」と、「陰謀」について。そして人が死傷させられていることへのシニシズムについて。(2014年11月)

◆知らない人に気軽に話しかけることのできる場で、知らない人から話しかけられたときに応答することをやめました。また、知らない人から話しかけられているかもしれない場所をチェックすることもやめました。あなたの主張は、私を巻き込まずに、あなたがやってください。

【お知らせ】本ブログは、はてなブックマークの「ブ コメ一覧」とやらについては、こういう経緯で非表示にしています。(こういうエントリをアップしてあってもなお「ブ コメ非表示」についてうるさいので、ちょい目立つようにしておきますが、当方のことは「揉め事」に巻き込まないでください。また、言うまでもないことですが、当方がブ コメ一覧を非表示に設定することは、あなたの言論の自由をおかすものではありません。)

=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=-=


2015年07月02日

「人工無脳・アルゴリズムの限界」、「悪意のないミス」が極めて侮辱的であった場合の非当事者の反応について。技術と人間の社会について。

今もあんまり変わらないのかもしれないが、かつて、「オフィスのオートメ化」(「オートメ」=「オートメイション」)が喧伝されていたころに、「コンピューター・システムを導入すれば何でもやってくれるんだろ」ということで無理難題を押し付けられ、「できなくはないのですが、現状の技術ではそれを自動化することは途方もなく大変です」ということを納得させたくて、「コンピューター・システムの限界です」という表現を使うと、逆に相手を怒らせてしまうことがある、という話を、読んだか聞いたかしたことがある。「限界とは何だね、きみぃ! それを何とかするのが技術ではないのかね!」と言われてしまう、という話だ。

そういう「限界」は、確かに「今後の(長期的)課題として取り組むべきこと」ではあるかもしれないが、今この場でその「限界」を突破せよというのは、「屏風から虎を出してみせよ」と言うに等しい。

そしてその「限界」をずっと「今後の課題として取り組むべきこと」として放置するのではなく、「今ここでできる最大限の対処」をして少しずつではあっても着実に改善していくことが期待されるのが「技術」で、今回の下記の事態でGoogleは(Googleとしての限界の中で)それをしているのだと思う。

【アルゴリズムの限界】Googleフォトが「人間」を「ゴリラ」とタグ付けた件。
http://matome.naver.jp/odai/2143577241885275601


表題の件について、英語圏での報道だけでなく、「騒動」の発端からGoogle社の人の対応を中心に記録してある。

写真が「ゴリラ」とタグ付けされたとTwitterで怒りを込めて報告した人(NYCのソフトウエア開発者であることがプロフィール欄に記してあった)に対し、GoogleのChief Architect of Socialの方が迅速かつ的確に、まったく理性的に、相手に敬意を持ってTwitterで返事をし、ちゃんと人間と人間の関係らしいやり取りを行なっている光景に私は素直に感銘を受けたのだが、考えてみればそれは当たり前のことかもしれない。

一方で、「通りすがり」的な野次馬が、何と言うか……技術がこういうことをするときに「悪意」などないということは、ソフトウエア開発に携わっている人なら当然わかっているし、本人もそれは次のように明示している。しかしそれを読まずに「はいはい、また黒人が差別だ差別だと騒いでるんですね」的な反応をしてくる人などもいるわけだ。




そして、上記の「まとめ」にも収録していないのだが、Googleのアルゴリズムによって非常に失礼な扱いをされた人の最初の投稿につけられた反応の中に、ひどくmindlessなものが散見された。発言主の名前やアバターを見ると東アジア人もいるしアラブの人もいる。単に「あはははは」と笑ってみせているだけの、何が言いたいのか判断しかねるようなものもある(投稿主の友達が「これはひどい」という意味で笑っているのかもしれないし、投稿主が「ネットで見つけたネタ」を投稿しているのだと思っているのかもしれないし……など)。

そして、ガチな人種主義に日々接しているのであろう投稿主は、それらの「あははは」に気分を害していることを表明している。




彼はGoogleの技術が「レイシスト(差別的)」だと言っているのではなく、その技術が導き出した結論(その技術を使う人間から見れば「完全な間違い」だが)に人間が示す反応について「ヴェールをかけた(婉曲的な)レイシズム」なのか、と言っている。

それを見て、また、「黒人が騒いでいる」と騒ぐ人々がいる。それが人間の社会だ。

それは技術がどう発展しようとも変わらないと思う。(「ネットの集合知」などを本気で信じていた一昔前の「サイバー・ユートピア」論者は、人間社会のそういうところも、技術が発展すれば変わっていく、改善されると思っていたのかもしれないが。今では、何らかの形で制御・統制・編集しない限り、「勝手に集合知が形成される」などということはないということは完全に常識になっていると思う。)

それにしても「お粗末」としか言いようのないことである。個人的には、英国のIT系ニュース、The Registerの表現が一番しっくりくると思った。まさに「人工無脳」(「無能」ではなく「無脳」。「無脳」であるがゆえに「無邪気」でもあるが)の引き起こした騒動だ。




その「無脳」に、人間の社会の中で居場所を得られる程度の「まともな判断力」を与えていくにはどうしたらよいかということが、技術者が今取り組んでいる最大の課題だと思う。「ディープラーニング」はその点についての今のバズワードだが、正直、「ディープ」ではないものを「ディープ」と呼ぶところから始まっているような印象は、今回けっこう深い部分で、受けている。







そして根本的な疑問点は、やはりこれに尽きる。最初の報告主(ジャッキーさん)の「いったい、どういうサンプル画像をベースにしているのか」という疑問(「まとめ」参照)は、ここに集約されるだろう。




ディープラーニング、ビッグデータ、機械学習  あるいはその心理学ディープラーニング、ビッグデータ、機械学習  あるいはその心理学
浅川伸一

深層学習 (機械学習プロフェッショナルシリーズ) The Next Technology 脳に迫る人工知能 最前線 (日経BPムック) トピックモデル (機械学習プロフェッショナルシリーズ) 機械学習のための確率と統計 (機械学習プロフェッショナルシリーズ) オンライン機械学習 (機械学習プロフェッショナルシリーズ)

by G-Tools




この件、日本語圏、微妙だ。
http://b.hatena.ne.jp/entry/jp.wsj.com/articles/SB10468926462754674708104581082773456994848

幸いにも先人たちの積み重ねと、その積み重ねにアクセス可能になっている社会状況・技術のおかげで、「人種主義とは何か」は、どれか本を1冊読めばわかるようになっているので、「また黒人が差別だ差別だと騒いでいる」と思った人は、週末に本を読んでみるといいと思う。地元の図書館にもあるはずだ。

人種主義の歴史人種主義の歴史
ジョージ・M・フレドリクソン 李孝徳

レイシズム・スタディーズ序説 レイシズムの変貌 白人とは何か?―ホワイトネス・スタディーズ入門 (刀水歴史全書) 人種差別の世界史―白人性とは何か? (刀水歴史全書) アメリカ黒人の歴史 (「知の再発見」双書)

by G-Tools

※この記事は

2015年07月02日

にアップロードしました。
1年も経ったころには、書いた本人の記憶から消えているかもしれません。


posted by nofrills at 20:00 | TrackBack(0) | i dont think im a pacifist/words at war | このブログの読者になる | 更新情報をチェックする

この記事へのトラックバック





【2003年に翻訳した文章】The Nuclear Love Affair 核との火遊び
2003年8月14日、John Pilger|ジョン・ピルジャー

私が初めて広島を訪れたのは,原爆投下の22年後のことだった。街はすっかり再建され,ガラス張りの建築物や環状道路が作られていたが,爪痕を見つけることは難しくはなかった。爆弾が炸裂した地点から1マイルも離れていない河原では,泥の中に掘っ立て小屋が建てられ,生気のない人の影がごみの山をあさっていた。現在,こんな日本の姿を想像できる人はほとんどいないだろう。

彼らは生き残った人々だった。ほとんどが病気で貧しく職もなく,社会から追放されていた。「原子病」の恐怖はとても大きかったので,人々は名前を変え,多くは住居を変えた。病人たちは混雑した国立病院で治療を受けた。米国人が作って経営する近代的な原爆病院が松の木に囲まれ市街地を見下ろす場所にあったが,そこではわずかな患者を「研究」目的で受け入れるだけだった。

……全文を読む
▼当ブログで参照・言及するなどした書籍・映画などから▼