2024年、生成AIは予想以上のスピード感をもって各方面で社会実装された。生成AIの教育利用にいち早く着手した文部科学省は2025年1月22日、第2回となるリーディングDXスクール生成AIパイロット校成果報告会を都内で実施。全国の小中高等学校等でパイロット校に指定されている66校が会場内でポスター展示を行い、各校の教育利用や校務活用について報告した。
リーディングDXスクール事業の事業企画委員長を務める堀田龍也教授（東京学芸大学教職大学院）は「生成AIの教育利用については、まずパイロット校を指定して慎重に進めようという文部科学省方針により、本事業が始まった。2年を経て生成AIは安定的な利用も可能になり、挑戦的な取組や現実的な取組が報告されている」とあいさつした。
文部科学省「初等中等教育段階における生成AIの利活用に関する検討会議」や東京都「AI戦略専門家会議」ほかの委員を務める江間准教授は人工知能（AI）と社会について講演した。
◇ ◇
人工知能は大量のデータを学習することで、特徴やパターンを抽出し、初見データの識別や予測を行う技術。人工知能技術のうち機械学習は統計学を基礎としているため、過去と未来は変わらないという前提で認識や予測を行っていることから、現在の社会に存在する差別や偏見も再生産してしまう。その点を前提に利用する必要がある。
例えば米国の某州で利用している再犯リスク予測AIの判断の妥当性について裁判まで至った事例がある。
マスコミは「『再犯率が高いと予測されたが実際には再犯しなかった率』は黒人の方が多い。偏見のある不公平なシステム」と指摘。それに対して開発者は「『再犯率が低いと予測されたが実際には再犯しなかった率』は人種に寄らず一致する。公平なシステムである」と主張。両面を同時に満たす公平性は存在しないため、何をもって公平なのかは社会的に決めて技術に反映させる必要がある。裁判では、本システムの利用は「合憲」であるが「人間がAIの課題を認識して利用することが重要」とされた。
生成AIの登場以降、「生成AIは正しい情報を出すとは限らないから注意せよ」という論調が多い。生成AIは、人間の誤った判断も含めて学習する。人間の鏡ともいえる。これは、生成AIを理解するための最も重要な点である。アインシュタインは「常識とは18歳までに身につけた偏見のコレクション」と指摘している。
生成AIに限らず、新たな技術は、社会で利用される以前にその影響力を予測することは難しく、一度普及してしまった技術は制御が難しい。これは近代以降ずっと抱え続けている人間社会の課題だ。望まない未来に導かれないためにも、どのような社会に住みたいのか、互いの価値観や考えを共有して未来への想像力を働かせることが今後、一層重要になる。
