第10回ライフクリエイター入門演習が行われました。

ライフクリエイター入門演習

第10回　「AIと公平性・倫理（１）」（2021年6月23日）

信州大学社会基盤研究所　特任教授　林憲一

第10回の講義では、データに依存する現代AIの公平性や倫理をめぐる課題について考えました。また、AIを利用したがん発見の技術開発を追ったドキュメンタリーを視聴し、AIが医療現場で活躍する過程について理解を深めました。

１．AIは社会を映し出す鏡

機械学習は統計学を基礎としているため、過去と未来は変わらないという前提で認識や予測をする。その結果、現在の社会に存在する差別や偏見を固定してしまう危険がある。例えば、Googleで「社長」や「医者」を画像検索すると男性の画像ばかり表示され、実際に占める女性の割合が反映されていない。この偏ったデータを基にAIが学ぶと、さらに偏った答えを出すことになる。

アマゾン社の採用では過去に採用されたエンジニアのデータをAIに学ばせ、AIに書類選考過程を任せたところ、通過したのは男性だけだった。これは同社のエンジニアは男性が圧倒的に多かったからである。同社はこれを不公平であると認め、以降の選考過程ではAIを利用しないと宣言した。

２．倫理はAIビジネスの障害なのか？

技術の壁を乗り越え、法律の壁を乗り越えてきたAIビジネスについて、倫理の壁が立ちはだかることをよく思わない開発者もいる。はたして、倫理はAIビジネスにとって障害なのであろうか。昨今のAI研究は様々な分野で進められているが、公平性やプライバシーなどの倫理的領域については研究の余地が残されており、答えは出ていない。先に取り組むことで他社との差別化を図るビジネスチャンスになり得ると考える企業もある。

３．AIを使ったがん発見技術の開発（テレビ東京「ガイアの夜明け」視聴）

胃がんは早期発見が重要とされているが、早期の胃がんは医者でもまれに見落とすことがあり、見つけ出すことが難しい。そこで、AIに胃がんの画像データを学ばせてがんを見分ける技術が開発されている。がん画像のがんの部分を色で塗り分けて教師データを作り（アノテーション）、AIに覚えさせ、98％の精度でがんを判定することが可能となった。

一方、食道がんを発見するAIでは、目標精度の80％を下回り72％だった。これは食道がんの患者数が胃がんの患者数の約1/5で、学んだデータの数が少なかったのが原因であった。データを多く集める新たな仕組みを作り、さらに画像を学ばせて精度を上げた。