CATEGORY AI・機械学習

LLMのAPIは入力トークンと出力トークンの従量課金なので、開発中は気にならなくても、本番で継続的に叩くようになると請求額が地味に効いてくる。自分のツールやAPIサーバーに組み込んで運用している人向けに、コストを抑える実…

ClaudeなどのAIアシスタントに「自社のAPIを叩かせたい」「社内DBを検索させたい」と思ったことがあるなら、MCP(Model Context Protocol)は知っておいて損はない。この記事では、MCPサーバー…

画像生成AIのStable Diffusionを自前のVPSで動かしたい、という相談をよく見かける。ローカルで動かせれば生成枚数は無制限だし、外部サービスの検閲や利用規約を気にしなくていいし、何より入力画像やプロンプトが…

ログの要約やアクセス統計へのコメント生成のような「毎日同じパターンでやる定型作業」は、cronとLLM APIを組み合わせて自動化してしまうと地味に楽になる。gitのコミット履歴の要約やニュースまとめにも応用できる発想だ…

ローカルLLMをアプリケーションから叩く場合、Ollamaの独自API(/api/generate、/api/chat)を直接使う方法もあるが、実はOllamaはOpenAI互換のエンドポイントも用意している。これを使う…

会議の録音や動画の字幕起こしを外部サービスに投げるのは手軽だが、音声データを社外に出したくない場面も多い。OpenAIが公開しているオープンソースの音声認識モデル「Whisper」なら、手持ちのVPS上で完結させられる。…

ChatGPTのようなLLMは賢いが、自社のドキュメントや最新情報は当然知らない。この「知らない部分」を検索で補ってから回答させる仕組みがRAG(Retrieval-Augmented Generation、検索拡張生成…

サーバーの障害調査は、突き詰めると「ログを読む」作業だ。だが見慣れないエラーメッセージや、数千行のログから異常を探す作業は骨が折れる。ここ最近は、その最初の「当たりをつける」部分をLLM(ChatGPTやClaude、あ…

OpenAI APIをPHPから使う場面は思った以上に多い。簡単な要約ツール、チャットボット、コード補完ヘルパーなど、PHPバックエンドにサクッと組み込みたい時のために、最小限のサンプルコードをまとめた。 APIキーの取…

クラウド型のLLMサービスを使わずに、自前のVPSでLLMを動かしたい——そういうニーズが最近急に増えてきた。プライバシー面の懸念を避けたい、APIコストを削りたい、レスポンスを制御したい、理由はさまざまだが、Ollam…