Rina Chandran
[１１日 トムソン・ロイター財団] - 昨年、インドの首都ニューデリーで宗教間の衝突が起きた後、警察は顔認識技術を使って数十人の男性を特定し逮捕した、と発表した。２０２０年の暴動に続き、こうした例は２度目だ。
両事件とも、起訴された者のほとんどがイスラム教徒だった。人権団体や技術専門家らは、インド当局が貧困層や少数派、社会から疎外された人々を標的にするために人工知能（ＡＩ）技術を使用していると批判している。
当局は、ＡＩの導入によって効率性とアクセスが向上すると主張する。しかし、技術専門家らはＡＩの倫理的使用に関する公式な政策が欠如しているため、古くからの偏見が定着して少数派が犯罪者とされ、ほとんどの利益が富裕層に流れることで、底辺の人々が傷つくことを懸念している。
ニューデリーで「予測的取り締まり」を研究している研究者、シバギ・ナラヤン氏は「（カースト制度で最下層とされる）ダリットやイスラム教徒、トランスジェンダーなど、社会の片隅に暮らす人々に直接影響を与えることになる。そうした人々に対する偏見や差別に拍車をかけるだろう」と語る。
１４億人の人口を擁し、世界第５位の経済大国であるインドでは猛スピードで技術革新が進む。医療から教育、農業から刑事司法まで、さまざまな分野でＡＩを利用したシステムが導入されている。だが、その倫理的影響については、ほとんど議論されていないと専門家は言う。
インドは階級、宗教、性別、貧富の差など、古くから深い分断にさいなまれてきた。ナラヤン氏らは、ＡＩがこうした分断を悪化させると危惧している。
「私たちは、テクノロジーが客観的に機能すると考えている。しかし、ＡＩシステムのトレーニングのために使われているデータベースは、カースト、性別、宗教、ひいては居住地を巡ってさえ偏りがあるため、偏見や差別を悪化させるだろう」とナラヤン氏は言う。
顔認識技術は、イスラム教徒やダリット、先住民族、トランスジェンダーなど社会から疎外された人々の監視を強化する危険性が指摘されているＡＩ技術の一つだ。
データベースを国民の身分証明（ＩＤ）システムにリンクさせ、融資の承認や雇用、身元調査にＡＩを利用することが増えれば、こうした人々への扉が固く閉ざされることになりかねないと、米ペンシルベニア大学のシバ・マティヤザガン准教授は指摘する。特に、チャットボットのような生成ＡＩ人気の高まりが偏見を助長していると言う。
「チャットボットにインド人医師や教授２０人の名前を尋ねると、上がってくるのは一般にヒンズー教徒が支配的なカーストの姓だ。これは、データの内容が偏っているゆえに、生成ＡＩがカースト的偏見に基づく結果を出すことを示すほんの１例だ」とマティヤザガン氏は語った。
＜ＡＩが予測的取り締まり＞
インドでは７５年前にカースト差別が非合法化されたが、ダリットに対する虐待は今もまん延している。ダリットやイスラム教徒、先住民族は高い教育受けたり良い仕事に就けたりする割合が低く、スマートフォンの所有率やソーシャルメディアの利用率も、カーストの高い人々に遅れを取っていることが調査で明らかになっている。
グーグル・リサーチが２０２１年に行った分析では、女性、農村の人々、先住民族を中心に、インドの人口の約半分がインターネットにアクセスできないため「データセットからコミュニティ全体が欠落していたり、きちんと反映されていない可能性がある。このため誤った結論や不公平の残存につながる」とされた。
その影響は広範囲に及び、医療でも顕著だ。
グーグルの分析では「貧しい人々がかかる結核ではなく、心臓病やがんのような裕福な人々の問題が優先され、ＡＩの恩恵を受ける人々と、そうでない人々の間の不公平に拍車をかけている」と研究者らが述べている。
同様に、データマッピングを使って安全でない地域にフラグを立てるモバイル安全アプリは、中流階級のユーザーによって内容がゆがめられている。
こうしたユーザーはダリットやイスラム教徒の地域、スラム街に危険地域のマークを付ける傾向があり、過剰な取り締まりや不当な集団監視につながる可能性がある。
インドの犯罪データベースは特に問題が多く、イスラム教徒、ダリット、先住民族が他の人々よりも高い割合で逮捕、起訴、投獄されていることが公式データから明らかだ。
こうした犯罪履歴は、ＡＩによる予測的取り締まりに利用される可能性がある。犯罪を行う可能性の高い人物を特定するのだ。
生成ＡＩが法廷に登場する可能性もある。パンジャブ・ハリヤナ州高等裁判所は先に、殺人事件の容疑者について保釈の可否を決めるためにチャットＧＰＴを使用した。インドで初めての事例だ。
非営利団体「クリミナル・ジャスティス・アンド・ポリス・アカウンタビリティ・プロジェクト」の共同設立者、ニキータ・ソナバネ氏は「ＡＩを使った新たな予測的取り締まりシステムが導入されれば、カースト差別という遺産に加え、社会から疎外されたコミュニティの人々に対する不当な犯罪者扱いと監視を永続させるだけだろう」と話した。