いやさ、1bitLLMってマジすごいわけ。私自身AIに詳しいわけじゃないけど、1bitって0と1ですよ。本当になんもわかってないけど、80億個のパラメーターとはいえ、それが0と1だけで何ができるのよマジで。「0だなあ」「1だなあ」とか何も考えてないでしょそれ。とか思ってたけど、なんか自分のしょぼいラップトップPCでもサクサク動いて感動する。性能的には、ChatGPTとかGeminiと比べたらそりゃ全然なんだけどさ、これお手元のスマホ上でローカルで動いちゃうLLMってことで、だからさ、もうたまごっちとかにAIが搭載される未来すぐそこじゃんか。すげーよ！！！！！って興奮してるんだけどさ、なんか、そういう興奮をしている人はあんまりいないっぽいぽよね。ま、それはともかくよ、本当に私が思っていることは、たまごっちではなく、デジモンです。知性を持ったデジタルモンスターが自分が持ってる小型デバイスの中で生きてる風の何かになるんですよ？夢広がりんぐじゃんかそれ。学校でこっそりさ、自分のスマホでデジタル世界のモンスターと会話できるんだよ。かっこいー！！！もう私って学校とか行かないんだけどさ←ねえこうなったら学校行かせてほしい。
Bonsai8Bくんに猫語を話してもらおうとしたらこうなったね。猫について詳しくなさすぎこいつ。まあそもそも日本語に特化したモデルじゃないから、日本語自体が結構怪しす。でも速度がマジで速い。すごい。もうちょっと言語的に自由になれば、ゲームとかに組み込んだら面白いことできそうで、わくわくです。
ってことでいろいろBonsaiについて調べていたんだけれど、こういったAIのモデルってさ、画像生成とかが有名だけれどLoraって呼ばれる何かで学習されたモデルを改造とかできて、用途に合わせた性質に寄せていくことができるんですよ。画像生成とかだと、この絵柄にこの絵柄の要素をちょっと加えるとか、塗りをもっとアニメっぽくするとかそういう魔改造とかをAI絵師どもはしているっぽい。ほんで、1bitLLMであるBonsaiは、よく分からんが1bitだからLoraみたいな魔改造ができないらしい。なんでかは知らん。そうらしい。
でも、そもそもパラメーターが0と1の集合だから、それらを単に反転（XOR）していくと、性能だったり性格だったりをチューニングできるらしい。Bonsaiというモデルをそうやってチューニングしていく手法を研究した人がすでにいて、公開している。そいつはそれをBankai「卍解」って呼んでる。
まさかのBLEACH。なんでや。
https://github.com/nikshepsvn/bankai
仕組みはめっちゃシンプル。本当にこのモデルは0と1の集合だから、パラメーターの一部を反転させるんだって。
こんな感じにいじると性能が変わるらしい。ほんまかよって思うけど、なんかそれで色々おもろい結果が出ているらしい。ウケる。
上記のGithubページをブラウザの翻訳で流し読みした感じ、例えば「計算に強くしたい場合はこの行を反転させるといいっぽいぞ」ってことを、何度も繰り返して特定しているっぽい。そういうことを自動でやってくれる仕組みを作って、それで精度を測ったりしてるらしい。0と1の塊だから人間には当然のように分からないので、それを手当り次第にいじって挙動を確認してる。なんか宝探しみたいでアホらしくておもろい。と同時に、先述したLoraって方法は結構面倒だったりするのに対して、この方法は01を反転させるだけだから超簡単で嬉しいらしいよ。ふぅん。
でも私思います。BLEACH好きなのは分かるけど、卍解じゃないって。
これですよこれ
これでしかないでしょ！！！！