Перейти к содержимому

AIはなぜ、教わっていない言語どうしでも翻訳できるのか?|機械翻訳の正体

AIゆっくり探究所

0:00 / 0:00

AIはなぜ、教わっていない言語どうしでも翻訳できるのか?|機械翻訳の正体

6 272 просмотра · 2 дня назад
AIゆっくり探究所
1,23 тыс. подписчиков
6 272 просмотра · 2 дня назад
日本語と韓国語の対訳を1組も見せていないのに、AIは日本語を韓国語に訳してしまう。機械翻訳は、辞書の置き換えから、対訳を数える統計の時代、そして意味の地図の時代へと変わってきました。AIはどうやって「訳す」のか。論文の原文と、手元の小さなAIを使った自分の実験で、原理まで確かめます。 分かったのは、今の機械翻訳が、文を「意味の地図」の上の点に置き、そこから向こうの言葉で書き直しているということです。地図の形が言葉どうしで似ているから、回せば重なる。地図が共通だから、習っていない組み合わせも行き来できる。そして地図の偏りと空白は、そのまま訳の偏りと作り話になります。 ■ 自分の実験(2026年10月13日・手元のCPU) ・E3 辞書なしで対訳から数える:Tatoeba の日英 49,456組だけから IBMモデル1(EM)で学ぶと、猫→cat の確率は 9.6% → 47.8%(2回目)→ 70.0%。犬→dog 88.0%、学校→school 97.8%。 ・E2 文の地図は共通か:Qwen2.5-1.5B に日英200組を別々に読ませ、一番近い英語の文が本当の訳かを層ごとに数えると、層0で65.0%、真ん中の層12で97.0%(194組)、出口の層28で46.5%(平均の位置を引いて比較。引かないと層11で86.0%・出口0.5%)。くじなら0.5%。 ・E1 途中は英語か:日本語65語をフランス語に訳させ、ロジットレンズで層ごとにのぞくと、層24で英語45.7%・中国語15.5%・フランス語0.2%。出口の層28でフランス語68.0%(62語でフランス語が一番)。例:水 water→eau、月 月亮→moon→lune、海 ocean→sea→mer。 ・E4 He か She か:「昨日、◯◯と話した。とても疲れているようだった。」の2文目の頭は、大工で He 92.6%、看護師で She 89.0%、教師は 45.1%・45.1%。They はどの職業でも2%未満。 小さなAI・1つの設定での結果です。 ■ 主な出典 ・Hutchins「The Georgetown-IBM experiment demonstrated in January 1954」(2004)/New York Times 1954年1月8日 ・ALPAC「Language and Machines」(1966) ・Nagao「A Framework of a Mechanical Translation between Japanese and English by Analogy Principle」(1984) ・Brown ほか「A Statistical Approach to Machine Translation」(1990)・「The Mathematics of Statistical Machine Translation」(1993) ・Koehn・Och・Marcu「Statistical Phrase-Based Translation」(2003) ・Papineni ほか「BLEU」(2002) ・Mikolov ほか「Efficient Estimation of Word Representations」(2013)・「Exploiting Similarities among Languages for Machine Translation」(2013) ・Conneau ほか「Word Translation Without Parallel Data」(2017) ・Lample ほか「Unsupervised Machine Translation Using Monolingual Corpora Only」(2018) ・Søgaard・Ruder・Vulić「On the Limitations of Unsupervised Bilingual Dictionary Induction」(2018) ・Vulić ほか「Do We Really Need Fully Unsupervised Cross-Lingual Embeddings?」(2019) ・Sennrich ほか「Improving Neural Machine Translation Models with Monolingual Data」(2016) ・Sutskever ほか「Sequence to Sequence Learning with Neural Networks」(2014)/Cho ほか (2014) ・Bahdanau・Cho・Bengio「Neural Machine Translation by Jointly Learning to Align and Translate」(2014) ・Koehn & Knowles「Six Challenges for Neural Machine Translation」(2017) ・Vaswani ほか「Attention Is All You Need」(2017) ・Wu ほか「Google's Neural Machine Translation System」(2016)/Google のブログ(2016年9月・11月) ・Johnson ほか「Google's Multilingual Neural Machine Translation System: Enabling Zero-Shot Translation」(2016) ・Zhang ほか「Improving Massively Multilingual Neural Machine Translation and Zero-Shot Translation」(2020) ・Hassan ほか (Microsoft 2018)/Läubli・Sennrich・Volk (2018) ・Briakou ほか「Searching for Needles in a Haystack」(PaLM・2023) ・Wendler ほか「Do Llamas Work in English?」(EPFL・2024) ・Prates ほか (2019)/Stanovsky ほか (2019)/Google AI ブログ(2018年 性別の訳) ・Motherboard(2018年7月 dog×19)/Raunak ほか(翻訳の幻覚・2021) ■ 注意 地図・矢印・棒などの絵の多くは、説明のための模式図です(実験の線と棒は自分の実験の値)。翻訳アプリの画面と例文はイメージです。 ■ 章 0:00 はじめに(教わっていない日本語と韓国語) 2:42 第1章 辞書で置き換えた時代 4:39 第2章 置き換えが負けた理由 7:58 第3章 人は例文で訳している 9:31 第4章 対訳から数える 15:11 第5章 語を地図の点にする 18:22 第6章 地図を回して重ねる 21:46 第7章 文を1本の数字に詰める 23:19 第8章 訳しながら見返す 26:35 第9章 習っていない組み合わせ 29:57 第10章 AIは英語で考えているのか 34:06 第11章 地図に描いていないもの 37:59 第12章 訳すとは地図を通ること ■ クレジット 音声合成: AquesTalk (株式会社アクエスト) https://www.a-quest.com/ 立ち絵: たぬき式ゆっくり https://tanukiyukkuri.github.io/tanuk... この動画は東方Projectの二次創作です。 画像(Wikimedia Commons): ・「IBM 701console」Dan, CC BY 2.0 https://commons.wikimedia.org/wiki/Fi... ・「Punch card 80 columns (1)」Harke, CC BY-SA 3.0 https://commons.wikimedia.org/wiki/Fi... ・「Canadian House of Commons chamber 1953」Chris Lund, Public domain https://commons.wikimedia.org/wiki/Fi... ・「Kyoto University Clock Tower」Soraie8288, CC BY-SA 4.0 https://commons.wikimedia.org/wiki/Fi... ・「Nagao Makoto at WCJ2009 cropped」Vantey ほか, CC BY 2.1 JP https://commons.wikimedia.org/wiki/Fi... BGM: OpenTracks(旧DOVA-SYNDROME)「プラネタリウムガーデン」「さみしいおばけと東京の月」「YOIYAMI-宵闇-」「Serene」「Fireworks」