AIでも分からない

AIに「分からないことを分からないと認める力」は身につくのか？OpenAIが有益な性質を強化学習で定着させる研究結果を公開 (GIGAZINE)

ChatGPTが話題になり始めた頃と比べたらマシにはなってる。

昔は存在しない「◯◯祭りについて教えて」というと

一旦は「見つかりませんでした」と返してくるものの、

「実際あるから教えて」とこちらがゴリ押すと、

急にそれっぽいのを作り出して解説してきてた。

今は試してみたけど何回でも見つからない、と返すし、

特定のコミュニティ、SNS上での話かもしれない、

と存在の可能性を挙げつつも、やっぱり分からない。

学習データ外はその場で検索をかける形になってるね。

ただデータとして存在するものを、

どう真偽判定し、どう解釈・要約するかという部分では

やはり不正確さはあって、確かに医療相談とかは危なっかしい。

より正確さが向上して、当たり前のように受け入れ始めると

わずかに混ざってしまう不正確な情報に気付けなくなるな。