2019年02月01日

説明責任を果たせなければ、AIを使うべからず!?

こんにちは。
マーケティング・営業担当の池田です。

2019年、AI分野にとってはどんな年になるのか・・・
とかなんとか言っているうちに、早くも1ヶ月が過ぎてしまいました(汗)
遅ればせながら、今回の内容は「2019年のAI」をテーマに取り上げてみようと思います。

その前に、昨年2018年はどんな年だったかというと、
一言で言えば「ようやく企業でのAI活用が本格化した年」と言えるのではないでしょうか。
しかし、世界から見れば日本企業のAI活用はまだまだ序の口。
それについては、以前、このブログでも触れている通りです。

このように「AI後進国」と言われてきた我が日本ですが、
政府もいよいよ本格的に法整備に乗り出したようです。
昨年12月、AIの活用に関する7つの基本原則を定めました。

1人間中心基本的人権を侵さない
2教育・リテラシー正しい利用のための教育環境提供
3プライバシー確保望まない形での個人情報流出防止
4セキュリティー確保安全上の取り組み推進
5公正競争確保特定の国・企業にAI資源の集中をさせない
6公平性・説明責任・透明性AI利用で国籍や性別などの差別を作らせない
7イノベーション国境を超えたデータ利用へ環境整備

ポイントは
AIは人間の基本的な人権を侵さない」(原則1)
AIを利用した企業に決定過程の説明責任」(原則6)

AIの導入が積極的に進められている分野と言えば、金融や人事採用。
フィンテック」「HRテック」という言葉がそれを示していますよね。
これらの分野でAIを使ったサービスをよく見聞きするようになりました。
実際には、金融機関の融資や就職採用時の合否にAIが活用されたりしています。
しかし、AIどのような基準でその判断を下したのか明確にはわからないという側面も。
実際に、以下のような問題も起こっています。


AIがここまで発展してきたのはディープラーニングという技術が飛躍的に進化したから。
特に金融や人事採用の分野にはビッグデータが存在するので、
ディープラーニングによるビッグデータの解析が進んだことにより業界が発展してきました。
しかし、アマゾンの事例は、それが裏目に出た結果と言えるかもしれません。

そこで、企業がAIに対して説明責任を果たさなければならないという原則です。
つまり「人間がAIを充分理解して運用すべき」というわけです。
しかし、ある意味、人間が説明しきれないようなロジックで結果を出すのがディープラーニング
言ってみれば、天才(ディープラーニング=AI)の発言が凡人(人間)にとっては
「何を言っているかさっぱりわからない」と感じるのと同じ状態なわけですよね?
天才の頭の中は凡人では理解し難いように、人間がAIを理解するのはかなり困難です。
となると、説明責任の原則は、企業がAIを導入したり活用したりする場合の弊害になるのでは?
とも思ったりしてしまいます。

冒頭の草案については、今後国内外から広く意見を募った上で今年3月に策定するとのことなので、
今後の動向を見守りましょう。
さて、AIに関する法整備が進み、2019年、AIの活用はようやく安定期に入るのでしょうか・・・?



posted by CBIT池田 at 09:51 | Comment(0) | その他 | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
コメントを書く
お名前:

メールアドレス:

ホームページアドレス:

コメント: