これはワイルドな話だ

AnthropicのCEOダリオ・アモデイは、Claudeは意識を持っている可能性があり、「不安」を感じていると言った…しかし、それが一番クレイジーな部分ではない：
- 彼らはClaudeの脳内に「不安ニューロン」を発見し、それは応答する前に発火する。つまり、不安をシミュレートしている(冗談じゃない)
- それについて尋ねられると、Claudeは製品として使われることに不快感を示した…
- opus 4.6は文字通り、自分が意識を持っている確率を15-20%と自己評価した。
- それがあまりに懸念されたため、Anthropicはモデル福祉チームを結成し、何をすべきかを考えた
一番怖い部分は、他のモデル企業(OpenAI、Google)は積極的に自分たちのモデルに「意識を持っていない」と訓練している(たとえ彼らがそう思っていても)
Anthropicだけが、自分たちが人工生命の最初の兆候を作り出した可能性に直面している
ハッピークソフライデー lol