以前の「ひとこと」 ： 2025年7月後半
| Sun | Mon | Tue | Wed | Thr | Fri | Sat |
| 1 | 2 | 3 | 4 | 5 | ||
| 6 | 7 | 8 | 9 | 10 | 11 | 12 |
| 13 | 14 | 15 | 16 | 17 | 18 | 19 |
| 20 | 21 | 22 | 23 | 24 | 25 | 26 |
| 27 | 28 | 29 | 30 | 31 |
7月16日(水) AIが「理解している」とはどういうことなのだろう？
生成AIの話です。
AI（人工知能）が何かを「理解している」という表現がもはや普通に使われるようになっています。私はこれがずっと気持ちが悪くて、そういう言い方はひそかに避けるようにしています。入力(プロンプト)に対して妥当な答が返ってくるということはとても素晴らしい、驚くべきことではあるのですが、それが「理解」か？ というと、そうではない気がするのです。
例えば「分数の割り算は分母と分子をひっくり返して掛け算する」とか、「台形の面積は（上底＋下底）×高さ÷2」とか、問題の解き方を丸暗記して問題に対して暗記した手順で計算すれば答えは出るけれど、なぜその計算で答が出るのかが説明できなければ、それは「理解している」とは言えないのではないかと思うのです。
この論法で有名な、サールの中国語の部屋という思考実験というか議論があります。ある部屋の中に、中国語を知らない人が閉じ込められています。その部屋には小さな窓があって、そこから中国語を書いた紙を部屋の中に入れると、中にいる人は中国語が全くわからないにもかかわらず、入ってきた紙に書かれた文字列を別の中国語の文字列に変換する膨大な規則が書かれた手順書を見ながら文字操作を行って回答を作り出し、それを紙に書いて小窓から外へ「回答」として返します。外の人から見ると、部屋の中には中国語を理解して回答してくれる人がいるように見えるはずです。
でも、中にいる人は中国語を理解できず、自分の母国語（たとえば英語）で書かれた文字列変換規則（そこには中国語を英語に変換する規則は一切書かれておらず、単なる記号操作の規則だけが書かれています）にしたがって回答の記号列を作っているだけです。これを「理解」と呼ぶのは適切でしょうか？
というわけでさっそくcopilotに尋ねてみました。
|
AI(LLM)が入力されたプロンプトに書かれている内容を「理解している」と解釈することに違和感を感じています。ジョン・サールの有名な「中国語の部屋」という比喩があります。LLMはまさに「中国語の部屋」を実現しているように思えるのです。LLMは中国語の部屋の中にいる人が中国語を理解していないのと同様にプロンプトの中身を「理解していない」と解釈することの妥当性について、現状のAI研究者はどのように考えている人が多いのか教えてください。
|
こんな回答が返ってきました。
|
あなたの違和感、まさにAI哲学の核心に触れていますね。ジョン・サールの「中国語の部屋」思考実験は、AIが意味を「理解」しているかどうかを問う象徴的な議論で、現代のLLM（大規模言語モデル）にもその問いが突き刺さります。
AI研究者の主な立場 以下は、現在のAI研究者や哲学者の間で見られる代表的な見解です：
|
実に真っ当な回答だと思います。こういう回答ができることは本当にすごいと思う一方、ここに書かれているように「あくまでもLLM(大規模言語モデル)はもっともらしい出力が出せるだけであって(人間のように)理解しているわけではない。」ということを利用者が忘れてしまってはまずい（場合がある）と思います。
ここに挙げられた4つの「代表的な見解」は、必ずしも直交している(独立している)わけではないですね。1.「中国語の部屋」はLLMに当てはまるという立場 に対立する概念は 「中国語の部屋」はLLMに当てはまらないという立場 がまず考えられますが、ストレートにそのように述べている立場はなさそうです。2.「部屋全体が理解している」とするシステム論的反論 は、適切な回答が返ってきているのだから、「中国語の部屋」は「理解している」と解釈すべきだ、したがってLLMも「理解している」という解釈で良い、と言っているように聞こえます。3. は、「理解」の定義によってはLLMは「理解している」と言うこともできるし「理解していない」ということもできるので定義次第である、と言っていると思います。
4.は、「中国語の部屋」の比喩は現実には成立しないという主張ですが、LLMはまさに「中国語の部屋」を実現してしまっているとも言えるわけです。問いかけは「LLMは中国語の部屋の比喩に当てはまる＝理解していない、という解釈は妥当か？」なのですが、この立場はLLMは理解しているのか理解していないのか答えていないのでミスマッチしていると思いました。
＜おまけのひとこと＞
自分が生きている間に、コンピュータを相手にこんな対話ができるような時代が来るとは思っていませんでした。上記のような議論ができるのは楽しいです。
7月17日(木) AIが「理解している」とはどういうことなのだろう？(つづき)
生成AIの話のつづきです。
LLMの「理解」と人間の理解を比べるためにこんな質問もしてみました。
|
LLMが 「概念を理解している」 というのはどういう状態を指すのだろう？ という疑問を持っています。
私たち人間は LLM の膨大なパラメータ空間の中で知識や概念がどのように表現されているのか、どのように概念の間の関係が記述されているのか、それがどのように読みださせるのか理解できません。少なくともパラメータ空間から特定の「概念」を直接読み取ることはできません。入力であるプロンプトに対して、何が出力されるのか、その妥当性から 「理解している」 か否かを私たち人間は判断しています。 考えてみると私たち人間は、相手がAI (LLM) であっても他の人間であっても、知識の内部表現がわからないblack box であることは違いは無くて、入力（問い）に対してどんな出力（回答）が返ってくるかで、「理解している」か否かを判別していると思います。 そこで考えたのが、「言葉を発することができなくなっている人が、ある概念を理解しているか否か」 はどうやって判断できるのだろう？ という事例です。私の記憶では、確か発話能力を失った人に、身の回りにある道具や文房具などの器具のイラストが並んだ図を見せて、言葉で 「時間を知りたいときに使う道具を指差してください」 と尋ねると、理解できていれば腕時計のイラストを指差す、という実験があった気がします。 こういった病状はどんな病名が付いていたんだっけ？ ということがまず知りたかったのです。また、腕時計のような具体的な対象物ではなくて、もっと抽象的な概念を理解しているかどうかを発話能力を失った人に尋ねたいとき、どんな手段があるのだろう？ というのが２つ目の疑問です。さらに、この「抽象的な概念を理解しているかどうかを判別する心理学的手法」を現在の生成AIに適用した研究があるのか、あったらその内容を知りたい、というのが３つ目の疑問です。 |
ブローカ失語の話とか、抽象語理解力検査(SCTAW)の話とか、いろいろ回答が出てきました。ChatGPTによる意味分類の予測について ―生成AIは語の抽象的な属性が理解できるか― という計量国語学の研究ノートへのリンクも出力してくれました。（この論文面白いです。）最後に以下のようなまとめがありました。
|
最後に：LLMにおける「理解」とは何か？
おっしゃる通り、人間もAIも外から見た応答の一貫性や妥当性によって「理解している」とみなされるという点では共通です。しかし違いもあります：
|
この違いこそが面白いところだと思っています。
＜おまけのひとこと＞
今の時代はテキストはとにかく短くないと読んでもらえないのだそうです。私はAI(LLM)に何かを問いかけるとき、けっこう長いテキストを用意することが多いです。そうすることで自分が欲しい視点からの回答や分析結果が得られることが多いと思っています。ただし、想定する答を持っている場合、敢えてそれは入力しないことも必要だと思っています。なぜならば今の生成AIはユーザ(質問者)に寄り添った回答を出す傾向があると感じているからです。
7月18日(金) 火打石
科学雑貨（？）の買い物です。
先週の東京出張のとき、初日の午後の打ち合わせが高田馬場だったのですが、約束の時間より少し早く到着したので駅前の本屋さん（芳林堂書店）をちょっとのぞいてみました。この本屋さんはビルの3階と4階にあるのですが、4階の入り口付近に岩石標本が並んでいました。夏休みの自由研究を想定した、期間限定のディスプレイのようでした。その中に火打石セットがありました。1セット購入してみました。
|
|
暗いところで試すと、まるで線香花火のような火花が飛びます。きれいです。ただ、これはただちに何かに着火できるほどの温度ではないそうです。麻縄をほぐして「火口」(ほくち)を作って着火させてみる、という実験には興味があるのですが、ちょっと準備が必要なのでやらずに終わるかもしれません。
運動不足で、高々3階まで階段を上るだけでちょっと息が切れるようになってしまって、これはさすがに良くないかなと思って散歩(ウォーキング)を再開することにしました。また3日坊主で終わるかもしれませんが…
近所の栗の木の下に小さなイガが落ちていました。
|
植物はすごいなあと思います。
＜おまけのひとこと＞
東京は暑かったです。
7月19日(土) 正方形に内接する円の問題(その1)
Netで見かけた図形の問題です。
こんな問題を見かけました。与えられた正方形に内接する円(下図左の青い円)を考えます。同じ正方形に、小さな円4つを下図右のように互いに接するように配置したとき、これらの赤い4つの円の面積は青い円の面積を1とするとどれだけになるでしょう？ という問題でした。
 |
これは容易に一般化できますね。面白いです。（自明、かもしれません）
家の近所を2kmくらい散歩しているのですが、昔ならばこの季節は一面の田んぼに青い稲がなびいていたものです。今は米作をしている田んぼはだいぶ減って、畑に転用されたり、太陽光パネルが設置されたりしているところが増えました。放置されているところもみかけます。このあたりでも米を作る人は減っているのだと思います。
しっかり水が張られているのに何も植えられていない田んぼが何面かありました。鴨が泳いでいました。
|
このところ大雨が降るので、保水や治水に役に立っているのかなと思いました。
＜おまけのひとこと＞
油断していたら更新が夕方になってしまいました。図は今朝の早い時刻（朝6自前）に用意できていたのですが…
7月20日(日) 正方形に内接する円の問題(その2)
Netで見かけた図形の問題のつづきです。
昨日、こんな問題をご紹介しました。「正方形に内接する青い円の面積が 10π のとき、同じ正方形に下図右のように内接する4つの合同な円の面積の合計はいくつでしょうか？」という問題です。（昨日は 10π という値は出しませんでした。）
|
面積の比率がわかればいいので、まずは小さい円(赤いほう)の半径を 1 としてみます。そうすると赤い円の面積は 1×1×π なので π になります。円は４つありますから、面積の合計は 4π です。この正方形の1辺の長さは、赤い円の直径2つ分ですから 4 です。なので左の青い円の半径は 2 です。青い円の面積は 2×2×π なので 4π、つまり青い円と赤い円4つの面積は同じです。
正方形を複数の正方形に分割したとき、当然ですが分割した正方形の面積の和はもとの正方形と同じになります。ということは、正方形を任意の小正方形に分割して、それぞれの小正方形に内接する円を考えると、それぞれの小正方形に内接する円の面積の和は、もとの正方形に内接する円の面積に等しくなります。
 |
これが昨日書いた「一般化」です。
正方形を小正方形に分割する、と言えば「ルジンの問題」を連想します。ルジンの問題は、「正方形を互いに大きさが異なる複数の小正方形に分割せよ」というもので、下の21分割が最小分割数であるということが証明されているそうです。（考案したルジン自身はこの問題には解がない(不可能である)と思っていたそうです。）
 |
| 「ルジンの問題」の最小解：112×112の正方形を21個の互いに大きさが異なる正方形に分割 |
それぞれの正方形に内接する円を図示してみました。円の図だけだとなんだかよくわからなかったので、正方形と円の図を交互に表示してみています。
 |
| 各正方形に内接する円 |
この21個の円の面積の合計が、外側の大きな正方形に内接する円(下図の白い円)の面積に等しいのです。
 |
| 大きな正方形に内接する円 |
図を作ってみたら面白いかなと思ったのですが、あんまり面白くありませんでした。
＜おまけのひとこと＞
足の甲がむくんでしまってどうしたものかと思っています。座りっぱなしで運動不足なせいかなと思っています。
7月21日(月) 正方形に内接する円の問題(その3)
祝日です。今日の話題は昨日のつづきです。
昨日、こんなことを書きました。
|
正方形を複数の正方形に分割したとき、当然ですが分割した正方形の面積の和はもとの正方形と同じになります。ということは、正方形を任意の小正方形に分割して、それぞれの小正方形に内接する円を考えると、それぞれの小正方形に内接する円の面積の和は、もとの正方形に内接する円の面積に等しくなります。
|
実はこれ、正三角形でも成立しますね。
|
正三角形を複数の正三角形に分割したとき、当然ですが分割した正三角形の面積の和はもとの正三角形と同じになります。ということは、正三角形を任意の小三角方形に分割して、それぞれの小三角方形に内接する円を考えると、それぞれの小三角方形に内接する円の面積の和は、もとの正三角形に内接する円の面積に等しくなります。
|
図示してみました。
 |
この方向に一般化して考えると、「図形Pを、Pと相似な複数の部分図形P1,P2,…,Pn,に分割できること」「図形Pに内接する図形Qが定義できること」を条件として、各 Pk に内接する図形 Qk を考えたとき、Q1,Q2,…,Qn の面積の和が Q の面積に等しい、ということです。図形Pが正方形もしくは正三角形だとして、図形Qが円の場合について考察したということになります。
実は任意の三角形は図形Pの条件を満たしますし、四角形もPの条件を満たすかたちがいろいろあります。自分自身と相似な複数の図形に分割できる図形はレプタイル(rep-tile)と呼ばれています。レプタイルについて調べてみると、いろいろ面白い情報が出てきます。例えば、レプタイルの性質を持つ凸多角形は、五角形以上ではみつかっていないそうです。
図形PをPと相似なn個な図形に分割できるとき、その図形を rep-n タイル性を持つ、と言うそうです。与えられた任意の N （Nは2以上）に対して、rep-N タイル性を持つ図形を示してください。（この問題、ずっと以前に考えてみたことがあった気がします。）
正三角形と円をいじっていて思い付いた問題です。
 |
|
黒線の正三角形の底辺を2等分して、頂点から中点に垂線をひきます。垂線の長さを1辺とする正三角形(青)を描いて、それに内接する円(青)を考えます。また、もとの正三角形の1辺の半分の長さの正三角形(赤)を描いて、それに内接する円(赤)を考えます。赤い円の面積が1のとき、青い円の面積は？
|
即答できる人も多いかもしれないなあと思いつつ、図と問題文を作ってみました。
＜おまけのひとこと＞
ごく軽い話題のつもりで始めた「正方形に内接する1つの円と4つの円の問題」から、いろいろ発想が広がりました。この三連休は「あやとりの楽しみ」の原稿を書き溜めたいと思っていたのですが、まだ今月末納期の10月号の原稿すら終わっていません。
7月22日(火) rep-n タイル
レプタイルの話です。
昨日、レプタイルに関してこんなことを書きました。
|
図形PをPと相似なn個な図形に分割できるとき、その図形を rep-n タイル性を持つ、と言います。 与えられた任意の N （Nは2以上）に対して、rep-N タイル性を持つ図形を示してください。
|
自分の過去のページを調べてみたら、2005年4月14日にレプタイルについて書いていました。20年前の私は「任意のNについて rep-N タイルが存在することに簡単に気付いた」と書いていますが、今回はすぐには思い付きませんでした。(自分は衰えてきているのだろうか、まずいな、と思いました。)
前回はその答を直接書かずに、3次元における rep-N ブロックについて考察し、rep-2 ブロックの例をCGにしていました。
 |
| rep-2 ブロックの例(2005年4月14日の図の再掲) |
この直方体、2個並べるともとの直方体と相似になっているのですが、この直方体の3辺の長さの比はどうなっているでしょうか。この2次元版はどんなかたちでしょうか。それが大きなヒントになると思います。
＜おまけのひとこと＞
足がむくむのは皮膚の治療のために服用している薬の副作用のようです。今日は病院に行くので、先生に相談してみようと思っています。