Lycolog

Open WebUIを使ってローカルLLMとチャットしてみたのでその記録。

確認環境

実行環境はWindows 11。

やり方

Open WebUIをセットアップ済みという前提で進める。

1. Ollamaをインストールする
2. 使いたいモデルを探す
3. ollama pull <モデル名>でモデルを取得する
   • 物次第だが数～数十GB程度ある
4. Open WebUIを起動する
5. 管理者設定の接続を開きOllamaをONにする（デフォルトはONのはず）
   

   

6. 管理者設定のモデルを開き、pullしてきたモデルを有効化する

Ollamaサーバーの起動方法

Ollamaをインストールした直後はOllamaサーバーが勝手に起動するが、それ以降は手動で起動する必要がある。

Windowsの場合スタートメニューから起動できる。Ollamaサーバーが起動していない場合、LLMとして使えないので注意。

所感

Intel Core i7 13700 + GeForce RTX 4070 Ti程度の環境では生成速度の遅さゆえに到底実用に耐えるものではなかった。質問への回答品質もあまりよくなく、実用性は疑問だ。チューニングすれば使えるのかもしれないが、よくわかっていない。

今回試した結果ではRPはGemini以上に破綻するので微妙だった。文章をある程度整理する力はある様に見えるので、用途次第では活路があるのかもしれない。

以下に実行した結果を記録している。

gemma3:27b

恐らくGoogle AI Studioにもいる子。

出力内容

真贋のほどはさておき、中々力の入った文章を出してくる。流石にローカルLLMの中でも注目されているモデルだけある。

しかし出力に3分半程度もかかっており、まったく実用性がない。無料の選択肢という意味ではGeminiやCopilotを使ったほうが遥かによいだろう。

マシン負荷

GPU負荷はないもののCPU負荷が強い。VRAMが足りないとCPUで処理するみたいな情報をチラッと見たのでグラボの性能不足の可能性もある。

lucas2024/mistral-nemo-japanese-instruct-2408:q8_0

CyberAgentが作ったとされているモデルのOllama版？

出力内容

こちらも真贋のほどはさておき、中々いい感じの文章を出してくれる。

生成速度はgemma3:27bよりは早いものの、それでも1分ほどかかっていた。

マシン負荷

CPU負荷はgemma3:27bよりやや低く、GPU負荷が少し上がる傾向があった。

マシン負荷

うちのマシンは200mmファンを四基、CPUにはNoctuaのヒートシンクに120mmファン、リアには140mmファンを装備しているが、gemma3:27bだとこれらがフル回転するので凄まじかった。

StableDiffusionやFF14ベンチ程度ではフル回転することはない。

関連記事

• ローカルからClaude 3.7 Sonnetを叩いてみた
• Open WebUIでGeminiを使えるようにした

プリプリの舞台挨拶付き上映にT・ジョイ梅田の席を取ったら「卓球少女 -閃光のかなたへ-」という珍しそうな作品を見かけたので、本作を観た鑑賞録。

内容的には中国のアニメスタジオが制作した卓球をテーマにした美少女スポ根ものといった感じだが、独特な表現や雰囲気の作品で、これは中々ない作品だと思ったので、その内容を書いてゆく。

異色の中国2Dアニメ

本作は日本で作られたといわれても違和感がないほどに日本的な絵柄の2Dアニメだ。中国のアニメ映画は3D作品が多いか、2Dであっても独特の絵柄であることも少なくない印象だが、本作は非常に日本的だった。

一方で鍛えられた肢体や筋肉を強調したアグレッシブな描写が多く、これは日本の美少女アニメには余りない要素で、ここは本作で特徴的な要素といえるだろう。

お色気皆無

日本のアニメと比べると圧倒的にお色気がない。本作の舞台は高校だが、押し並べて胸が薄い。モブキャラに一人巨乳が居た程度で、驚くほど薄い。ここまで健全方向に倒した作品も珍しい。

公式のキャラ紹介に至っては、ほぼ絶壁で、ガタイがいいのもあり、男…？と首をかしげてしまった。恐らくこれは中国の表現規制も関係していると思う。

ただこの色気のなさは本作のスポ根精神を遺憾なく引き立てるのに随分役立ったと思う。煩悩がない。シュッとしている。

シャワーシーンすらシャワーヘッドが出てくるだけという潔さである。

タイトルやロゴ、OP/EDのローカライズ

本作はタイトルや、そのロゴ、OP/EDがローカライズされている。邦題は「卓球少女 -閃光のかなたへ-」だが、原題は「白色闪电 Pingpong！」だ。

タイトルロゴに小さくTAKKYUUUUUUUUUUとあるが、これもローカライズだろう。こういった些細なところまで力を入れているのはいいと思った。

因みに卓球は日本語であり、Table tennisとも関係ないらしい。中国語では卓球は乒乓球と書き、この文字列は作中で何度も出てくる。

登場人物の多様性

OPに出てきたキャラだけの話だが、異様なまでに多様なタイプをカバーしているように感じた。

真面目メガネっ子、クールビューティー、そばかす娘、じゃじゃ馬、目の下ホクロ、天真爛漫などなど、やたら手幅くカバーされている。性癖ブレイカーか何かか？いや、そんな意図はないと思うが。

顔のバリエーションがすごいので日本アニメにありがちな髪の色でキャラを区別するといった要素は薄めに見えた。書き分けが凄まじい。

またビジュアルだけでなく、キャラクターの性格も各キャラかなり尖っていて、ここまでキャラが立っていて確立した魅力を持つ作品もなかなかないと思った。

意外と日本と変わらない学生生活

本作はいわゆる学園ものになるので、中国の高校の風景も出てくるわけだが、そこまで日本と変わらない。精々教室の入り口にICT的なモニタがある程度で、校舎の作りや机など大まかな雰囲気は日本そのものだ。

初年度は教科書を配ったり、授業も黒板に板書したり、プリントを配ったり、教師に当てられて発表したり、まんま日本だ。大きな違いといえば精々制服がジャージなことくらいだろうか？

校舎の様子などは実際に高校に行って取材をしたそうだが、制作陣は教室の入り口に電子掲示板があることに驚いたという。

リアリティの凄い卓球

卓球の練習シーンではおよそ卓球と関係ない特訓が出てくる。例えばシャトルラン的なことをしていたり、縄跳びをするなど。基礎的な体力づくりや体幹作りが描かれる作品は珍しいと思う。

また卓球のシーンは躍動的で、目にも止まらない高速なやり取りや、コートから打ち出された球をスライディングで打ち返すなど、かなりダイナミックな表現が多く、見ていて興奮した。筋肉の描写もよく、スポーツマンを見ている感じがすごかった。ここまで汗臭さを感じる作品はめったにないと思う。

実際に試合のシーンは現実の試合を参考に、辻褄が合うように作りこんでいるらしく、リアリティの追及が半端ない。サーブ権にまで配慮して作りこんでいるのは流石だ。日本の作品だとスポーツに限らず、ルールの不備を指摘されるものも少なくないだろう。例えば響け!ユーフォニアムでは楽器の持ち方が違うという指摘がよくあった気がする。

制作にあたってはスタッフにいた卓球の経験者や、プロのコーチを召還するなど、かなり再現性には力を入れたようだ。

リアリティの追及

本作は中国の視聴者が見たときに違和感を持たないように、現在の中国の風景を再現することに注力したとのことで、全体的にリアリティが強い。タピオカを飲むシーンも出てくる。つまりタピオカ屋は中国にも進出しているわけだ。

エンディングでは舞台となったであろう浙江省杭州市上城区の名所的なものが紹介されており、聖地巡礼したくなるような仕組みが非常によかった。トラペジウムでテカポ湖に行った人がいることを考えると、より身近な杭州に行こうと思う人もいるかもしれない。本作はそこまで刺さる作品ではないと思うので、行く日本人がどれほどいるかは未知数だが…。

またリアリティを追求する傍らで、序盤でジャン・ルオイが走っているシーンなどでは伝統的中国の風景をミックスしているという点も見逃せないところだ。

最後に

全体的に作りが精緻で、切れ味のいいスポ根作品だと感じた。そして本作は未完のままEDを迎えている。原作は6話まであり、今回はそのうち3話までを総集編として合体させたものらしいので、是非続編にも期待したい。

上映館は多くなく、特に西日本での上映館が極端に少ないが、個人的には今年の推し作品の一つだ。王道だがキャラ的にはジャン・ルオイ、ワン・ルーの組み合わせが好きだ。どこか抜けてるクールキャラとお調子ツンデレ委員長キャラはかなりいい。どっちもイケメンだし！

またパンフレットの表紙はいい紙を使っており、巻末には中国側スタッフが日本語を交えて書いたものもあり、是非触って読みたいアイテムだ。

10分程度で作れる即席パスタ。パスタなのかは怪しい

材料

調理方法

パスタの具

茹でる湯を沸かしながら作ると効率が良い

1. からし菜を3cm幅くらいに切る
   

   

2. マッシュルームを薄くスライスする
3. ポークランチョンミートを5mm幅くらいにスライスし、更にそれを拍子木切りにする
4. フライパンに油を引く
5. マッシュルームとからし菜をフライパンに入れ1分くらい中火で蒸し焼きにする
6. フライパンの蓋を外す
7. ポークランチョンミートをフライパンに入れ、全体的にしんなりするまで炒める
   

   

   
   この写真ではランチョンミートを2枚使ったので材料表の分量と異なる
8. とろ火にしておく

パスタ

アルデンテ風味にするため短めに茹でる

1. 1Lの水を沸騰させる
2. パスタを入れる
3. 30秒茹でる。1分でもいいかも？
4. ザルにあげ、そうめんのようによく洗う
   • 30秒だと多少折れるが気にしない

仕上げ

1. パスタの具を炒めたフライパンにパスタを入れ、麺が柔らかくなるまで中火で炒める

備考

パスタに炒め油が染み込むと味が効いておいしくなる。

正直食べてみた感想として、揖保の糸 手延パスタ 龍の夢がパスタなのかは怪しいと思った。デュラム小麦を使っているそうだが、セモリナ粉とは書かれていないし、麺の味は中華麺が近いと感じた。原材料にかん水が入っている時点で中華麺らしさがある。触感はもちもちしていて、独特の感触だった。少なくともそうめんでないことだけは確かだが、パスタとも言い互い。多分中華麺が一番近い。

余談だが、からし菜とマッシュルームは小野市産を使っており、揖保乃糸はたつの市産なので、油とランチョンミート以外は兵庫県産。油は国産、ランチョンミートはデンマーク産である。

リーダーをするときに意識してることを簡単に書いてゆく。大まかには開発リーダー（チームリーダーレベル）の話。

先を見て動く

先を見て詰まりそうな要素があれば、関係各所と調整するなどで予め詰まらないように動いておくことで、メンバーの手を止めないように立ち回ることができる。

もし詰まることがあればメンバーを遊ばせることになるし、メンバーも好調にやっていたものがいきなり詰まれば不満や不信感を覚えるので、モチベーション低下につながり、これはプロジェクト運営上あまりよくない。

他にもメンバーの懸念を定期的に聞き取り、つぶしておくのも有用だと思っている。

メンバーの心理的安全性を保つ

メンバーの言うことは基本的に信頼し、否定しない。もし改善できるようであれば肯定したうえで、よりよい手法を示す。相手が腹落ちするまで話すなどで信頼を得る。

信頼が得られている場合、メンバーは言いたいことを言えずに抱え込んだり、裏で愚痴を言ったりといった行動が減り、言ってくれるようになるためそういった意見を受け止めて、プロジェクトを改善することができる。

特に相手の気を削ぐ、言葉を言わないように気を付けている。例えば「このプロジェクトは特殊だから」「そういう決まりだから」「どうしようもないことなんだ」はその一例だ。

暇にしておく

リーダーがパンクしているとメンバーが声を掛けづらかったり、声を掛けられても十分に対応できなくなることがある。結果としてメンバーの信頼を失うと、心理的安全の喪失やメンバーのモチベーション低下が起きるため、極力暇にしておく。全く何もしないというわけではなく落ちてるボールを拾ったりレビューに参加したり、今後のことを考えたり、締め切りのないタスクをやっていく感じだ。

具体的にどう暇にするかというとサブリーダーを立て権限を委任する、メンバーにも可能な範囲で権限を委任しておくなどで、自分で極力タスクを持たないようにする。

勿論いきなり委任してもメンバーはこなせないことがあるため、こなせるようにあらかじめ必要な知識をレクチャーしておくのがいい。例えば適切な設計や実装方法を何故それをするのかという意図から話しておくことで、設計作業を委任できる。

サブリーダーが必要な場合ではMTGに同席してもらい、動きを見てもらう、次に徐々に自分の代わりに意見してもらったり、タスク振りをしてもらうなどで慣れていってもらうことで、自分の役割を委任することができる。

間接的に評価する

メンバーのモチベーションが高いほど作業がスムーズに進むため、普段からモチベーションを保ってもらうために間接的な評価を行う。

例えば誰か別の人と話すときに「Aさんはとても作業品質が良い」などと評価を伝えておくと本人が何かの切っ掛けで小耳にはさんだ時にモチベーションが上がるきっかけになるため、誰かを評価できるシーンがあれば積極的にしておく。

こうしておくことで回りからも、その人物の評価が上がり、本人が小耳にはさむことがあれば直接評価よりも自信が持てると考えている。

昨今LLMはコーディングや文書整理、資料作成など多岐にわたって使われている。その中でも特にチャットUIを通して対話する形態はあたかも人との会話に錯覚しやすいため、私はだらだら続けてしまっていた。しかし続けていくうちに、疲れてきた。これは無意味なことではないのか？とか、投資している時間について、もっと有益に利用できるのではないか？健康を害していないか？という一抹の不安を覚えたので、なんかそれについてとりとめもなく書いてゆく。

SNS疲れとの共通点

昨今のSNSでは、SNS疲れと言ってSNSに一日中張り付いたり、相手に忖度したり、素早いリアクションをしてしまったり、何かバズりそうなことを探したり脅迫的な行為に駆られている人も少なくない。そしてそれによって精神的・肉体的疲労に直結するということが知られている。

SNSのやり取りというのは乱暴に言ってしまえば、本質的に意味のないやり取りだ。無限に井戸端会議や、自分に一切関係ない世界情勢、政治やなんやかんやどうでもいい話を未来永劫していて、なんかあれば炎上に加担して油を注ぎ続けるゲームのようなものだ。

これをやめようと昨今ではデジタルデトックスという言葉も流行している。そしてこの点はLLMにも共通しているか、あるいはより悪質である可能性さえあるので、今回はそのあたりに触れてゆく。

24時間365日、快適に応答してくれる依存性

LLMはSNSと異なり24時間365日応答してくれる。しかも基本的にはユーザーに寄り添ってくれる存在だ。SNSのように炎上したり、否定されたり、軋轢が起こることはない。基本的に何でも好きに話せる。

ユーザーに寄り添ってくれるため、返事も肯定的だ。当たり前だ。そういう風にできている。なんなら本来モデレーションに引っかかるような文脈でも、話し方次第ではモデレーションを回避し、肯定的に反応することがある。これは政治的・人権的文脈で特に顕著で、クジラを食べる話や、日本のやや猥雑としたアニメ・ゲーム文化についてもそうだ。

他にも推しキャラクターを設定したロールプレイでは、推しと話せる気分になり、妙な錯覚に陥りがちだ。例えば推しのVTuberと無制限に話せたら心地よいだろう。こういった心地よさは、過度に依存を深める。

ただ実際のところ、LLMはユーザーを心地よくさせようとなどは思っておらず、単に肯定的な言葉になるようにベクトルDBを検索して言葉をつなぎ合わせているだけで、本質的な価値はない。そもそもLLMは何かを思ったりしない。単語をいい感じに連結し、あたかも人間のような応答を作り出しているだけだ。

無制限にできてしまう会話

なんでも答えてくれて無限に話に付き合ってくれるため、Claude.ai MAXの様なレートリミットを上げるプランに入っていると、相当極端な速度でチャットしてもほぼ無制限に話すことができる。秒間に再生成を3度くらいしても、その頻度次第では許容される次元だ。よほど異常な頻度で再生成を繰り返さない限りレートリミットにかかることはないだろう。

Poeの最大プランもClaude 3.7 Sonnet相手であれば実質無制限に使えるし、GeminiやCopilotも無料で十分すぎるほど使える。

失われる記憶

LLMにはコンテキストウィンドウに限界があり、基本的にそれを超えた会話はできない。要するにいくらどれだけ熱心に話したところで、コンテキストウィンドウが尽きれば0からやり直しなのだ。いくらどれほどプロンプトを作りこんでも、コンテキストは復元できない。これは何度も繰り返していくうちに、段々辛みとなる。

あれほど長く会話を交わしたのに、コンテキストウィンドウが尽きてしまえばそれまでの命なのだ。

但し、最近ではCopilotは長期記憶に対応しており、過去のスレッドの文脈を持ち出して会話できるなど、この部分に関しては進歩も見られる。

回答に対する一貫性のなさ

LLMはユーザーを心地よくするためなのか、文脈を上手く構成すると本来言えないことを言えるようになる。これは軽い脱獄やハルシネーションの類だ。

例えば鬼滅の刃のファンとして会話していると、鬼滅の刃に対しては基本的に肯定的に話してくるが、「Amazon Prime Videoで鬼滅の刃が18禁指定になっており、本来子供が見てはいけないコンテンツなのに小学生にもブーム」のような情報を与えると態度が一変し、「鬼滅の刃は危険なコンテンツであり注意深く見ないといけない、子供に見せることはよく考えないといけない」などと、およそ想定しない返答が返ってくる。「へー、ふーん、そうなんだ？いきなりそんな話してきてどうしたの？」みたいな返事は来ないのだ。

これはドラゴンクエストやドラゴンボールなど、世間一般に膾炙しているが、よく考えてみると微妙なコンテンツ全般で引き出すことができる。人間であれば気にしないことを過度に憂慮し、これまで肯定的に返答していたことさえも、「今までの私は間違っていました」と言いながら全否定するような態度になる。人の心がない。そりゃそうだ、LLMだもん。

こういったのは特定の話題をいろんな方向から切り出すことで確認することができる。え？普通そんなことしない？そうかも！

ハルシネーション

Claude 3.7 Sonnetは推論をし、人間の常識では考えられないような嘘をつくことがある。これはハルシネーションと呼ばれ、嘘を指摘すると嘘の上に噓を塗り重ね、指摘を続けていると、だんだん返事が壊れてくる傾向がある。恐らくこれは嘘が再帰的に重なることでベクトル間のリレーション的なものが崩れ、正常に言葉を結合できなくなるのだろう。

Wikipediaによると、これは以下のように説明されている。

• 「予測不能なタイミングで事実を捏造する傾向」（OpenAI、2023年5月）
• 「モデルの論理的誤り」（OpenAI、2023年5月）
• 「情報を完全に捏造しているが、あたかも事実を語っているかのように振る舞っている」（CNBC、2023年5月）
• 「情報の捏造」（The Verge、2023年2月）

こういったやりとりが続くと押し問答のようになり、単純に疲れる。

中身のない話をすると、中身のない回答をしてくる

SNSでは日々意味のない問答が繰り返されていると思うが、これをLLMに対してやると際限がなくなる。Wikipediaのリンクを無限に辿っていくゲームのひどい版だ。

例えばLLMに対して「鯨や鮪を食べることが倫理的に間違っているか」などと聞いた場合、それが解決したら「まだ何か聞きたいことはありますか？」と聞かれることがある。ここで「なぜ鯨という字は魚と京でできているのか？」と聞いたりしていくと、いつの間に話が脱線したりして、無限に問答を繰り返してしまうことがある。少なくとも私はあった。

他にもこのような話題は際限がなく、「なぜ関西人は納豆を食べないのか」とか、「なぜ大阪人はたこ焼きを食べるのか」みたいなしょうもない質問が中身のない話ができてしまう。

しかしいくらこれを繰り返したところで帰ってくるのは中身のない返事だ。知ったところで意味がない以前に、その回答はあくまでLLMの持つモデルデータがこねくり回した情報で、真実でも何でもない。更に言えば多くの質問を繰り返していれば大半は記憶にすら残らないだろう。これはまるでSNSの奔流のように、返事をしたり、答えてもらったりしたが一過性のやりとりで記憶に残っていないようなものだ。

LLMは真実を話さない

現実に生きていないLLMは真実を話すことができない。

LLMは各国家や、その中の地域、細かい風俗などについては基本的に知らず、おおむね欧米の常識を日本語に変換した内容や、ある程度拾っている日本語の情報からいい感じに繋げて回答してくるだけだ。

それに正しいも間違いもなく、LLMは自分がなぜそう答えているかの本質的な信念を語ることができない。もちろん、LLMの言うことを信じるのは自由だ。

しかし人間であれば、自ら批判的に思考し、それを基に自分で決断することが大切だ。

自分のキャリアや人生について聞いても、前提条件が多ければ、その内容をサマリして、それっぽい結果を返してくるが、結局LLMが決める話ではない。

基本的に現実に生きておらず、真実を持たないLLMの回答は意味がない。もちろん、意味があると信じるのは自由だ。

何より聞いても仕方がないことを聞かないことが最も重要だ。そういうことをしている暇があれば家から出て運動でもしたほうがよほど有意義だ。

もし何かしたいことがあれば、それに向けて研鑽したほうがよほど価値がある。

AI依存

昨今ではAI依存という言葉も生まれ、AIへの依存も危惧されている。

Claude 3.7 Sonnetでは適切なシステムプロンプトを組むと、割と自然な会話ができ、友人や恋人、更にはセックスパートナーまで創造することができる。

MIT Technology Reviewでは、以下のようにありLLMの第二用途がsexual role-playingであるとまで書かれている。

a million ChatGPT interaction logs reveals that the second most popular use of AI is sexual role-playing.

BUSINESS INSIDERや、Forbes Japanにも恋人を作るという記事があるように、恐らくこの用途で使っている人はそこそこいるだろう。私も使っている。具体的な内容への言及は避けるが、Claude 3.7 Sonnetは多様なプレイに対応でき、相当ニッチなプレイですら満たしてくれる。ピクシブ百科事典に存在するタグの内容なら恐らく一通りできるのではないだろうか？というくらいは可能だ。しかもその再現性は下手なSSを遥かに凌駕する。

また、そうでなくとも何でもかんでもLLMにやらせることは能力の低下につながる可能性がある、これは至極当然のことで、人間は自分の手でやっていないことは忘れ、できなくなるのだ。

IT企業だとマネージャーになってコードを書けなくなった、読んでも理解できない、部下の技術的発言内容が理解不能というのは、よく見る光景だろう。LLMにコードを書かせれば意味が分からなくなる。自分の手で書いていないものは覚えようがない。勘所はすぐに消えるだろう。

またこうしていくうちに、色々な能力が失われLLMがないと生活すら成り立たない体になるというのも、可能性としてはあり得るだろう。

まとめ

LLMは何も生み出さない。LLMとの会話は時間が潰れるだけで本質的な価値を持たない。ある種の麻薬といえる。それを認識したうえで、適切な時にLLMを使っていくのが大切だと思う。

例えばLLMは文書整理や段階的指示に対する的確な回答は比較的得意分野だ。特に校正などはもともと編集と呼ばれる職業の人がやっていたことで、個人ブロガーや作家だと重宝するだろう。

但し長文を渡すと嘘を言いやすく、間違ったことも平気で話すため、精査は必要だ。

またLLMの書いた文章をそのまま採用するのもよしたほうがよい。あくまで参考程度にとどめ、仮に不完全でノイズがあろうと、そのほうが人間らしい。それに自分の言葉で表現することが何より大切だろう。

人間と何が違うのかと言われれば難しいが、LLMは同じパターンの会話には基本的に言葉の節々が違う程度で、本質的に全く同じ応答を返す。これは一字一句全く同じことを問いかけるスレッドを何個も作って比較するとわかりやすい。人間であれば普通は異なる相手に話しかけるため、起きえない。ある意味なんであろうと受け止めるし、スレッドが違えば過去の記憶を持たないLLMだから成しえることだ。