botshit の元ネタはこれか

Beware of Botshit: How to Manage the Epistemic Risks of Generative Chatbots by Tim Hannigan, Ian P. McCarthy, Andre Spicer :: SSRN

Abstract によると

Advances in large language model (LLM) technology enable chatbots to generate and analyze content for our work. Generative chatbots do this work by ‘predicting’ responses rather than ‘knowing’ the meaning of their responses. This means chatbots can produce coherent sounding but inaccurate or fabricated content, referred to as ‘hallucinations’. When humans use this untruthful content for tasks, it becomes what we call ‘botshit’. This article focuses on how to use chatbots for content generation work while mitigating the epistemic (i.e., the process of producing knowledge) risks associated with botshit. Drawing on risk management research, we introduce a typology framework that orients how chatbots can be used based on two dimensions: response veracity verifiability, and response veracity importance. The framework identifies four modes of chatbot work (authenticated, autonomous, automated, and augmented) with a botshit related risk (ignorance, miscalibration, routinization, and black boxing). We describe and illustrate each mode and offer advice to help chatbot users guard against the botshit risks that come with each mode.

Google 翻訳によると

大規模言語モデル (LLM) テクノロジーの進歩により、チャットボットが業務用のコンテンツを生成および分析できるようになりました。生成型チャットボットは、応答の意味を「知る」のではなく、応答を「予測」することによってこの作業を行います。これは、チャットボットが、一貫した響きはあるものの、「幻覚」と呼ばれる不正確または捏造されたコンテンツを生成する可能性があることを意味します。人間がこの虚偽のコンテンツをタスクに使用すると、それはいわゆる「ボットシット」になります。この記事では、ボットシットに関連する認識論 (つまり、知識を生み出すプロセス) のリスクを軽減しながら、コンテンツ生成作業にチャットボットを使用する方法に焦点を当てます。リスク管理研究に基づいて、応答の真実性の検証可能性と応答の真実性の重要性の 2 つの側面に基づいてチャットボットの使用方法を方向付ける類型論フレームワークを紹介します。このフレームワークは、ボットシット関連のリスク (無知、誤調整、ルーチン化、ブラックボックス化) を伴うチャットボット作業の 4 つのモード (認証型、自律型、自動化、拡張型) を特定します。各モードについて説明および図解し、チャットボットユーザーが各モードに伴うボットのリスクを防ぐのに役立つアドバイスを提供します。

という内容だそうな

【ブログネタ用】自家中毒を起こすAI