SpaceX、Tesla、X、xAIの共通点は2つある。1つはイーロンマスクの会社であること。もう1つはリアルタイムデータ収集装置に転用できる点だ。AIの学習データが枯渇した世界で枯渇しないリアルタイムデータを持つことの意味を考えてみる。 人工知能系のトップカンファレンスNeurIPSで元OpenAIのIlyaがキーノート発表をした。 "We have but one internet" Ilya Sutskeverという言葉から、Ilyaは学習フェーズが終わったと認識している事がわかる。著作権関係で外に出てない高品質なデータもあるはずだがそこも含めてデータを集めて学習をするフェーズ自体が終わったという意味だ。これはfine tuningを基軸とした希少データの利活用さえも過去のものであるという示唆を与えている。 今後は推論スケーリング（一度出した答えを反芻しより精度の高い答えを出すこと）
