--- title: AI語りについて思うこと date: 2025-03-01T01:30:56.000Z updated: 2026-05-05T06:34:39.179Z url: https://baku89.com/ja/AI%E8%AA%9E%E3%82%8A%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6%E6%80%9D%E3%81%86%E3%81%93%E3%81%A8 --- # AI語りについて思うこと 人間にできてAIにできないことを、原理的な問題か、パラメータ数や学習データが増え、マルチモーダル化が進めばいずれ解決するか問題か、それとも意識のハードプロブレムのように、そもそも反証可能でない問題かをちゃんと腑分けしたい 「AIは現実を経験してない」「AIは多少複雑なだけでマルコフ連鎖しているに過ぎない」「AIには何かを為したいという衝動がない」自体、ナンセンスだと思う あと、人文系、記号論系の人がくねくねと言うような「AIは記号接地しているか」って問いとか。記号接地問題はAI研究としても伝統的な問いではあるのだが、そこはもう少し具体的な話になってきている　つまりマルチモーダルの話 書物だけ食べたって現実に接地しないのはあたりまえ --- ### AIという言葉が気に食わない - AIを魔法的なブラックボックスとして囃し立てたいビッグテック、エヴァンジェリスト、驚き屋に与することになる - [徳井直生](/%E5%BE%B3%E4%BA%95%E7%9B%B4%E7%94%9F)さんは、極力Machine LearningやDNN、CNNという具体的な技術用語を用いている ### AIの何について語るかが不明瞭 AI語りについて、[baku89#icon](/baku89#icon)は大きく4つの領域に分けられると思っている。**技術**、**所有**、**生活**（incl. 仕事/社会）、そして**実存**。しゃんと区別して話したほうがいい気がする。**生活**と**実存**の話はじっくりされているものの、**技術**そのものの話と**所有**権の話はあんま語られつくしてないのがさみしい - **技術**: 技術哲学や社会工学的なではなく、AI技術そのものの話 - 非AIエンジニアにとっても、機械学習の概論的な部分を学ぶことで得られるある種の直観、空間的なメタファーは、日々の思索の役に立つ。それは機械学習というよりは、線形代数やベクトル解析がもたらすものかもしれないけれど - 可能性空間の探索 = [『ノウアスフィアの開墾』](/homesteading-the-noosphere)とししての制作 - [制作を最適化問題として捉える](/%E5%88%B6%E4%BD%9C%E3%82%92%E6%9C%80%E9%81%A9%E5%8C%96%E5%95%8F%E9%A1%8C%E3%81%A8%E3%81%97%E3%81%A6%E6%8D%89%E3%81%88%E3%82%8B) - [適応度地形](/%E9%81%A9%E5%BF%9C%E5%BA%A6%E5%9C%B0%E5%BD%A2) - [局所最適化と広域探索](/%E5%B1%80%E6%89%80%E6%9C%80%E9%81%A9%E5%8C%96%E3%81%A8%E5%BA%83%E5%9F%9F%E6%8E%A2%E7%B4%A2) - [高次元ほど勾配法で局所最小値に取り残されづらい](/%E9%AB%98%E6%AC%A1%E5%85%83%E3%81%BB%E3%81%A9%E5%8B%BE%E9%85%8D%E6%B3%95%E3%81%A7%E5%B1%80%E6%89%80%E6%9C%80%E5%B0%8F%E5%80%A4%E3%81%AB%E5%8F%96%E3%82%8A%E6%AE%8B%E3%81%95%E3%82%8C%E3%81%A5%E3%82%89%E3%81%84) - [Superposition](/Superposition) - なぜ意味空間はニューロン数に指数的にスケールするか? - [探索空間と潜在空間](/%E6%8E%A2%E7%B4%A2%E7%A9%BA%E9%96%93%E3%81%A8%E6%BD%9C%E5%9C%A8%E7%A9%BA%E9%96%93) - [技術は世界を一様に便利にするわけではない](/%E6%8A%80%E8%A1%93%E3%81%AF%E4%B8%96%E7%95%8C%E3%82%92%E4%B8%80%E6%A7%98%E3%81%AB%E4%BE%BF%E5%88%A9%E3%81%AB%E3%81%99%E3%82%8B%E3%82%8F%E3%81%91%E3%81%A7%E3%81%AF%E3%81%AA%E3%81%84) - [演繹マシンから帰納マシンへ](/%E6%BC%94%E7%B9%B9%E3%83%9E%E3%82%B7%E3%83%B3%E3%81%8B%E3%82%89%E5%B8%B0%E7%B4%8D%E3%83%9E%E3%82%B7%E3%83%B3%E3%81%B8) - 機械学習とロバート・マッキムのvisual thinking - [『遥かなる他者のためのデザイン』](/%E9%81%A5%E3%81%8B%E3%81%AA%E3%82%8B%E4%BB%96%E8%80%85%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AE%E3%83%87%E3%82%B6%E3%82%A4%E3%83%B3) p.106 - **所有**: AIは現状あくまで誰かに作られ、所有されている技術であって、「人 vrs. AI」のように、擬人化できるスタンドアローンな存在ではない。AI語りをする時、しばしその背後にいる組織（多くの場合ビッグテック）が透明化されており、その権力性もまた無視されている - [AIの擬人化用法](/AI%E3%81%AE%E6%93%AC%E4%BA%BA%E5%8C%96%E7%94%A8%E6%B3%95) - ChatGPTを使っていなかった時期があった。それはただ不便というよりは、「頭が悪くなる」という感覚に近くもあった。 - 「ググる」は調べるじゃなくて思い出す。すでに記憶の外部装置として機能している。 - 道具（プログラム）、記憶（ストレージ）の次は思考（AIモデル）にレントを払わされるのかぁ〜 - 「Open」AIはどうなった - **生活**: AI技術がどう僕らの生活、仕事、社会を変容させていくか - これが一番退屈、得てしてサービスの有効活用法に終始しがち - 文字、印刷、電気と、いつだってテクノロジーは生活を変容させてきた。socio-technology全般ではなく、AIについて語るときは、その変化がテクノロジー全般ではなく「この10年で発展したDNN」に限って言えるものであってほしい - よくあるのは「競争から共創」モデル。そんなん昔から技術とアートはそうだった。[徳井直生](/%E5%BE%B3%E4%BA%95%E7%9B%B4%E7%94%9F)さんくらい具体的な技術レイヤーとプレイヤーとしての実感に根ざした精度の高い議論を展開できない限り、ものすごく凡庸な結論になってしまう - じゃあ[baku89#icon](/baku89#icon)はどう思うん? - 3つの側面で、（少なくとも「無くなんないと良いな」という層が力を持つうちは）人間の仕事は無くならない - **記号接地**: 現実に記号接地させる役割 - ソフトウェアの影響の及ばないドメインとの接続 - 物理空間での作業 - やがては奪われるのだろうが、それはAI技術ではなくロボティクス技術。AIによって後者が発展する可能性を考えると、間接的にAIベンダーがAIユーザーの仕事を奪っているとも言えるけど - 文脈に応じた適応 - 店舗での接客、現場での即興的な判断 - **記号価値**: ブランドや文化的価値を持つ仕事 - アーティスト、スタークリエイター、コンサルとか - **責任と意思決定**: AIの性能がどれだけ上がっても、AIサービスに製造者責任を誰も負いたくない。9割9分AIがいいところまでやってくれるが、それを監査し、責任をもってGOを出すのは使い手。 - テスラ、ハンドルに手を添えないと止まるアレ - 「機械に完全に代替され得ない（Partial Automation）」ことが寧ろ人々のQOLを下げる。運転の楽しみも、自動運転の快適さも得られない、宙吊りになったブルシットジョブだけが残される - ゲーム業界のコンセプチュアル・アーティスト、Stable Diffusionの吐いた絵を手直しする仕事と化した。しかも下手に効率化されてしまったがために倍の量を。 - 肘から先でチマチマとやることが減り、キツい意思決定の濃度が高まる。労働強度が強くなりすぎる - けどこれはAIに限った話ではないかな - **実存**: 「人にしか出来ない」ドメインが狭まっていくなかで、どう僕らは生きがい、やりがいを保っていくのか - ここはもう答えは決まっている。「旅行は機械に代替してもらえない」のと一緒 - 「結果」に関して、どれだけ機械の方が上手になろうと、それを為す体験そのものは機械に置き換えられない - デザインもそう。現実的には、Webバナー制作のような「ソフトのオペレーションによってそれっぽいものを作る」分野から徐々にAI的なものに置き換えられていくし、やがては佐藤可士和のようなより高度なブランディングや経営判断のようなものも含めてAIの方が上手になっていく未来は早かれ遅かれ来る - それでも尚、デザインをすることそのものに宿る身体的なsatisfyingさは、主観がこの肉体に宿ってしまっている以上、機械にも他者にも代替され得ない - 経済的には、「佐藤可士和にデザインを頼む」ということが、エグゼクティブにとってのステータス、記号消費として価値を持ち続ける限り、仕事としてのデザイナーが無くなることはない - 誰か「Deep Researchはコンサル業を代替しない。なぜなら、コンサルは経営者に対するある種のケア労働の側面があり、本質的にキャバ嬢に近しい職能であるから」 - ほんと? - デザインがもたらす「効能」からデザイナー自身の「パフォーマティビティ」への価値観の転回がどのみち必要なんだと思う ### AI語りに滲む（技術・技術史オンチゆえの）雑なテクノリバタリアニズム - AI技術はある種の経済原理とミームとしての寄生性の高さゆえに自律的に発展（[Universal Darwinism](/Universal_Darwinism)）し、もはやその流れは止めることが出来ないという考え - そこは[baku89#icon](/baku89#icon)も同意 - AI技術は研究ドメインとしてとても魅力的。これだけ世界中の才能の限りある認知資源に寄生し、その知性を借りて高度なものへと自己書き換えする程度に、ミームとしての強力なんだと思う - HCI研究者、こぞってAI系の論文だしまくってる... GUI研究は下火...。 - どれだけスクレイピング学習を止めさせようと、どうしようもない。「AI学習禁止」やステガノグラフィを埋め込むのはテクノフォビア的しぐさであり、これからの時代を生き抜く上で悪手である。もはや我々にできるのは、この波に適応し、乗りこなしていくことでしかない - [baku89#icon](/baku89#icon)がナイーブだなぁと思うのはここから - 技術そのものの（自律的なネゲントロピー体としての）自己複雑化は止められないが、それがどういった制度設計のもと社会実装されるかは偶然に左右されるし、とても恣意的なもの。変えられる。 - 実は「ソフトウェアエンジニアリング」の世界だって、IBMやMS、Adobe、サンマイクロシステムズのような企業によって、あらゆるコマンド、ツールキット、言語がプロプライエタリなものとして囲い込まれる可能性はいつだってあった。ちょうどクリエイティブツールやエンタープライズ製品のように。僕らがレンタルサーバーを月ワンコインで安く借りてホームページをホストできるのは、サーバーOSやHTMLサーバープログラムにいちいちライセンス料を払わなくていいからであり、それが可能となったのは、自由市場による最適化ではなく、研究者やハッカーの理想主義、そして（主に評判に基づく）互恵的利他主義によるものである - → [『ノウアスフィアの開墾』](/homesteading-the-noosphere) - だから僕らは「AI」というテクノロジーにおいても同様に、「どうなるか」という未来予想だけじゃなくて、「どうしたいか」という意思を持って接していいんだと思う。それは適切な努力とともにやがて自己成就しうる未来だから。後者をある種の理想主義と切り捨てるのは、リアリズム的なようでいて、ソフトウェア史についての無学さを露呈させているだけ ### つまるところ、お気持ち 「世の中がどうなっていくか」なんか、深津さんや平川さんのような技術オンチ（ごめんなさい…）にも語れる程度に、そこそこの情報収集能力があれば誰でもできる。AI語りというドメインだけ、どういうわけか一億総未来学者。「世の中をどうしたいのか」について語る人が居てももっと良いんじゃないの、みたいな…