AI を実際につくっている人たちが今日話したこと。1 ページ、約 2 分。
今日とくに印象的だったのは、信頼できるAIは、チャットボットの回答を長くすることよりも、ソフトウェアの随所に小さな判断を組み込むことで実現するかもしれない、という考えだ。開発者たちは、セキュリティ分野のagentが持つ可能性と、頼りすぎることで人間が失いかねない力についても考えた。
JEV、ソフトウェアに組み込む信頼性の高い判断に賭ける
Diogo Almeidaは、JEVの高速でプログラム可能な分類器なら、ソフトウェアが検証し、組み合わせて大きなワークフローにできる小さな判断を担えると考えている。たとえば開発者は、チャットボットのもっともらしい返答をうのみにする代わりに、重要なメールと判定する信頼度のしきい値を設定できる。彼が現在のモデルで懸念しているのは信頼性だ。「95％はEinstein、5％はMr. Bean。でもMr. Beanになっているときに教えてくれないなら、どうやって何かを自動化できるんでしょう？」
Ryo Lu、agentが学びにつながる試行錯誤を奪うことを懸念
Ryo Luは、ものづくりを学ぶ過程では、失敗し、人に助けを求め、何度も挑戦するなかで判断力を養ってきたと語る。agentを使えば、それまで作れなかったものを作れるようになる一方、完成した成果物の陰で、本人が問いを立てる力を身につけないままになることもある。彼が望むのは、作りかけのものを共有し、画面の外の世界でも協力し合えるよう支えるツールだ。
元データは zarazhangrui によるオープンソースプロジェクト follow-builders（MIT ライセンス）から取得しています。要約はそのプロジェクトの公開フィードをもとに LLM が生成し、要約プロンプトも同プロジェクトを改変したものです。上記の各項目は原文にリンクしています。
要約は自動生成です。判断の根拠にする前に原文をご確認ください。
