2018年2月に考えていたこと
今回は2018年に書いていた内容をサルベージ。
ブルームバーグのAIに潜むジェンダーバイアスのリスクに関する内容です。
ジェンダーバイアス – AIのダークサイド
ＡＩに潜むジェンダーバイアスとの戦い。その問題点と対策について聞いた (ブルームバーグニュース Twitterより)
世の中AIブームでアル。
それに先駆けてドラクエⅣでAIが
搭載されていたことが懐かしい。
「ガンガン行こうぜ」
「いのちをだいじに」
…その中間が欲しいんだよ！、と結局は
「めいれいさせろ」
しかし、去年あたりからディープラーニングが
クローズアップされてからは、
「仕事がなくなる」
「心はあるのか」
など飛躍した論調も散見されるように。
…メディアは煽ったほうが売れますからね。
我々は踊らされないようにしましょう！
さて、このニュースには考えられました。
前述のように、あたかも「万能」の代名詞
のように取り上げられるAIですが、
大きな落とし穴があったな、と感じました。
学び始める段階
学びを重ねる段階
そして判断を下すこと
その全てにバイアスがかかる。
つまり、AIにも個性が出てしまうのが必然という事。
人間には取り扱うことができない膨大な量の
データ（ビッグデータ）を駆使し、的確な判断で
次々とタスクをこなしていくーその為の判断には
バイアスがかかってしまう。
これは映像の中で出ているような判決では
とても受け入れられない内容でしょう。
恐ろしくてとてもAIに任せられない。
決定までの過程がわかるようにしようとしている、
ともしていましたが、そもそも前述のように、
複雑な過程を任せることを期待してのAIだと
思いますので本末転倒ですよね。
このニュースで思うことは、
「だからAIはダメだ！」「そんなことない」
の2択ではなく、
「どこにAIを使うか人間としての判断が重要」
ということ。
配送、生産ライン、繰り返し作業など、
AIに最適なアプリケーションは何なのか。
そのマネージメントが人間に求められる部分ですね。
こうやって書いていて、インターネット黎明期に
メデイアで目にした記事の事を思い出しました。
「これからはインターネットの時代。
営業マンは不要になるだろう」
さて？現実はどうなっているでしょう？
Man is a thinking reed.
3年を経て思うこと
AI(ディープラーニング)のバイアスが
その後、どのように改善されているかはフォローできていません。
しかし、人間の判断が重要になる、
という点では似たような話は最近もありますよね。
DX(デジタルトランスフォーメーション)
具体的な内容が見えずに横文字で日本人を襲うモンスターです(笑)
DXやAIが良い悪いという2言論的な考え方ではなく、
『自分がいる業界、会社にとって必要なことは何か』
ということを見極めることが肝要ですね。
まさに、自分が3年前に言っていたこと、
『人間は考える葦である』
に繋がります。
AIのようなロボット的な思考に陥らないように注意しましょう。
