AIが「えこひいき」するって本当？差別するつもりがなくても偏ってしまう理由を小学生にもわかるように説明してみた【ずんだもんIT解説】

小学生でもわかるIT用語辞典、今日の言葉は「AIバイアス」なのだ！ ✅ この動画でわかること ・AIバイアスとは何か(たまたまの間違いではなく、いつも同じ向きにかたよること) ・NISTによるAIバイアスの3分類(社会のしくみ・統計と計算・人間) ・バイアスの種類(歴史的バイアス・選択バイアス・ラベルと測定のバイアス・アルゴリズムのバイアス・確証バイアス・自動化バイアス)とフィードバックループ ・実際の事例(顔分析AIの精度差の研究、採用AIの報道、医療の予測AIの研究、再犯予測ツールの分析) ・バイアスの見つけ方(グループ別の評価、人口統計的パリティ・機会均等・均等化オッズ・予測パリティ、5分の4ルール) ・公平性の指標は同時にすべて満たせない場合があること ・対策(データの見直し、再重み付け、学習時・学習後の調整、人間によるチェックと継続的な監視) ・日本のAI事業者ガイドライン、AI推進法、EUのAI法の動向 📌 このシリーズは、むずかしいIT用語を小学3年生くらいでもわかるレベルまでかみくだいて説明するシリーズなのだ！豆知識として、情報処理技術者試験などに出てくる考え方も少しだけ紹介するのだ。 📚 参考にした情報源 ・NIST SP 1270「Towards a Standard for Identifying and Managing Bias in Artificial Intelligence」(2022年3月) ・Buolamwini, Gebru「Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification」(FAT* 2018, PMLR 81) ・Raji, Buolamwini「Actionable Auditing: Investigating the Impact of Publicly Naming Biased Performance Results of Commercial AI Products」(AIES 2019) ・ロイター通信の報道(2018年10月10日、採用AIに関する記事) ・Obermeyer ほか「Dissecting racial bias in an algorithm used to manage the health of populations」(Science, 2019) ・ProPublica「Machine Bias」および「How We Analyzed the COMPAS Recidivism Algorithm」(2016年5月) ・Hardt, Price, Srebro「Equality of Opportunity in Supervised Learning」(2016) ・Kleinberg, Mullainathan, Raghavan「Inherent Trade-Offs in the Fair Determination of Risk Scores」(2016) ・Chouldechova「Fair prediction with disparate impact」(2017) ・Kamiran, Calders「Data preprocessing techniques for classification without discrimination」(Knowledge and Information Systems, 2012) ・米国 雇用選考手続に関する統一ガイドライン 29 CFR 1607.4(D)(5分の4ルール) ・Google Machine Learning Crash Course「Fairness」(バイアスの種類・評価・軽減) ・総務省・経済産業省「AI事業者ガイドライン」(第1.1版 2025年3月28日、第1.2版 2026年3月31日) ・人工知能関連技術の研究開発及び活用の推進に関する法律(2025年5月成立) ・EU AI法(Regulation (EU) 2024/1689)第10条、およびAI Omnibusによる適用時期の改正(2026年7月官報掲載) ・IPA ITパスポート試験 シラバス Ver.6.5 ※事例は公開された研究・報道の内容を紹介したもので、特定の企業や製品を評価・批判する意図はありません。 🔗 関連動画 ・AIの学習のしくみ：   • AIはどうやって"賢く"なるの？小学生にもわかるように説明してみた【ずんだもんIT解説】   ・AIモデルとは：   • よく聞く"AIモデル"って結局何なの？小学生にもわかるように説明してみた【ずんだもん...   ・データセットのひみつ：   • AIは何を勉強して賢くなるの？小学生にもわかるように説明してみた【ずんだもんIT解説】   ・MLOpsとは：   • AIモデルは作った瞬間から「劣化」が始まっている理由を小学生にもわかるように説明して...   #AIバイアス #AI #機械学習 #公平性 #AI倫理 #IT用語 #小学生でもわかる #IT用語辞典 #ずんだもん #IT解説 クレジット: VOICEVOX:ずんだもん、四国めたん