■

「AI生成物を学習するとAIの性能が落ちる」ってのは

・デマを大量に学習してしまう場合

・AI内に形成されている常識と乖離しすぎてバグる場合

・むしろ常識に合致しすぎてバイアスが強化される(汎化性能が落ちる)場合

あたりが理由で

この「汎化性能」には出力の構成や単語選びの傾向なども含まれるんでややこしい所ではあるんだが

端的に言うと

・データの出自は無関係である

・非AIのユーザー生成コンテンツに対する評価とは違いがない

ってなもんなのだが

「とにかくAIがAI製データを学習すると性能が落ちる」と思い込んでる反AIは多いんだよな

"Garbage in, Garbage out."は「AIなんてゴミしか生まない！」みたいなイデオロギーに基づく話ではなく

合成データを学習して性能が向上している例は多数あるにも関わらずそう思い込んでしまうのは正常な状態ではない

まぁ分かるよ

自家中毒起こして性能下がるんだ、ざまぁみさらせぇってなったほうが溜飲下がるもんな

だが陰謀論を信じ込んだって何の解決にもならんのですよ

Permalink | 記事への反応(0) | 12:58

ツイートシェア