8月第4週の面白かった記事
AI は習熟の負担を軽減しません／AI Doesn't Lighten the Burden of Mastery.（playtechnique）
問題はツールが悪いということではありません。フィットネスと同じです。ジムに1日行かなくても、元の習慣に戻るのはそれほど難しくありません。しかし、数週間休んでから再び始めるとなると…難しくは感じませんが、必要性が薄れてしまいます。ここまでジムに行かなくてもやってこれたのだから、もう1日行っても何の害もありません。ジムは今でも良いツールであり、適切なツールでもありますが、集中力が薄れてしまいます。
問題は、AIが生成する実装の形を私たちが認識してしまい、それが自分たちが求めているものだと思い込んでしまうことです。チーム全体が偽りの熟達感に安住してしまうと、コードベースはロールシャッハテストのしみと化します。見慣れた形なのに、基盤となるモデルがないのです。これは組織の衰退です。
長期的には、LLMは私たちを愚かにする／In the long run, LLMs make us dumber（desunit (Sergey Bogdanov)
desunit
私は子供たちにいつもこう言っています。LLMは本当に強力なツールですが、賢く使いなさい。LLMに数式を解かせようとするのではなく、自分で解いて、どこが間違っているのか説明してもらいましょう。まずは自立した思考から始め、その後AIを取り入れていく方が、認知発達にとってより健全です。原子力エネルギーのようなもので、大量破壊兵器としてもクリーンなエネルギー源としても使えます。AIツールへの継続的な依存は、学習、記憶、そして創造性を損なう可能性があります。不快感は単なる迷惑ではなく、訓練の場なのです。
一体今何が起こっているんだ？／What the hell is going on right now?（catskull.net）
catskull
最近、コンピューターを完全にリセットしました。たまにやるようにしているのですが、その過程で、使わなくなったソフトウェアをすべて削除しています。Claude Proに6ヶ月ほどお金を払っていますが、だんだんと時間の無駄だと感じるようになりました。自分でインターネットで何度か検索したり、Stack Overflowやドキュメントのページを数十ページ読んだりしても、自分の結論はLLMが出すものよりもはるかに信頼性が高く、正確です。
・「使わなければ失う」現象があらゆる場面で出てくるのだろう。これまで多くの文脈で、LLMの利用のメリットとして人間の認知負荷を軽減できるという点が挙げられてきた。なので、ライティングするときも、コーディングするときも、サクッとLLMに生成してもらおうという姿勢になった。楽だもんね。一方で、LLMを日常的に利用することで認知負債（Cognitive Debt）が蓄積されるという研究がある。
・例えば、キーボードタイピングによって漢字の書き取りができなくなった、という経験が近しい。手書きのときは、漢字を書くときに自分の記憶から文字の形状を引っ張り出してきて、それを書き出す。キーボードに置き換わった後は、その必要は無くなった。外部の記憶装置から、必要な漢字のデータを参照するだけで良いから、考えたり思い出したりする必要がなくなったからだ。
GoogleのAIが彼にカスタマーサービスの電話番号を教えた。それは詐欺だった。／Google’s AI pointed him to a customer service number. It was a scam.（ワシントンポスト）
Shira Ovide
このような詐欺の典型的な手口は次のようになります。悪意のある人物が、オンライン レビュー サイト、メッセージ ボード、その他の Web サイトに、自分が管理する番号が企業のカスタマー サービス センターの番号であると主張して書き込みます。Googleで検索すると、Googleの技術が、オンラインアドバイスを含む、関連性が高く信頼できる情報への手がかりを探します。詐欺師が操作した番号が、真実であるかのようにオンラインで頻繁に繰り返し表示される場合、Googleはビジネスを検索しているユーザーにその番号を提案することがあります。
・AI Overviewの情報源は、基本的には権威のあるサイトが優先的に利用される。が、そのようなサイトに掲載されていない場合は、ゴリゴリSEOのまとめサイトや、場合によってはスパムサイトも情報源となり得る。というか、AI Overview側ではどの情報源が信頼できるか、そうでないかを判定することは難しいからだ。この記事で紹介されている手口は、かなり応用が効くような気がする。Ahrefsのような検索ボリュームを確認できるサービスで、「⚪︎⚪︎ 電話番号」で高頻度でクエリされているキーワードを見つけて、自分たちにトラフィックを誘導させるようなWebページを複数立ち上げれば実現するのではないだろうか。
気に入ったらダウンロードしてください／if you love it, download it（erysdren's WWW site）
この投稿は、現代のインターネットにおけるメディア保存の現状についての不満を述べることから始まりました... しかし、不満を言ったり不平を言ったりしてもほとんど何の役にも立ちません。そこで、代わりに、皆さんが自分でメディア保存に貢献できる方法について、いくつかの短いガイドとメモを書きました。ガイドのほとんどは非常に技術的な内容ですが、できる限り適切な説明とツールおよびドキュメントへのリンクを提供するように努めています。
・自分が気に入っているオンライン上のリソースは、将来に渡って継続してアクセス可能なものとは限らない。自分も非常に好きだった個人ブログがあり2年ほど更新を楽しみに見てきたが、ある日急に閉鎖されてしまった。原因は分からなかった。アーカイブにも残っておらず、永遠に消え去ってしまった。あの時ほど残して良かったと思ったことはない。いつ見返すかは分からないが、こまめに保存しておくことは重要だと思う。