橋本 Hashimoto   Baku

橋本 Hashimoto   Baku

Digital Nature (Scratchpad)

This page is a personal scratchpad.

LLMには抽象化能力がある

  • 石田英敬西垣通にいわせればどうなんだろ、懐疑的そう
    • コンピュータには「シンタクスができるがセマンティクスはできない」とよく言われる。シンタクスとは統語論(あるいは構文論)のことで、英語で SVO構造(主語 +動詞 +目的語)と言ったりするように、語と語の順番、結合則の研究だが、コンピュータはメッセージが入力されれば形態素解析プログラムによって単語を割りだし、統計的に処理してその順序が文法にかなっているかを判断することは得意だ。セマンティクスとは言語学や哲学・論理学のいう意味論のことだ。ユーザが世界の事象や知識やコミュニケーションの状況を参照することで成立する「意味」については、コンピュータに入力されたメッセージには明示されていない要素を多くふくむから、コンピュータがたとえ語彙辞書や知識事典を備えているとしてもなかなか対応できない。だからコンピュータは文法はできるが意味論はできない、とコンピュータの発明以来言われている。これは数字を扱うことから出発した計算機の宿命である。計算はどこまでいっても数字という有限な記号の組みあわせの問題だから、計算をベースに言語や知識を扱うとかならず同じアポリアに行き着くことになる。”

新記号論: 脳とメディアが出会うとき ゲンロン叢書 by 石田 英敬, 東 浩紀