井元剛
Llama.cppを使ったローカルLLM環境構築紹介
今回は、Llama.cppというツールを使用して、量子化したOSSのLLMモデルを自宅環境で動作させる事が出来る環境構築の手順を紹介したいと思います。 Llama.cppとは？ Llama.cppプロジェクトは、元々は大 ...
DSPyを用いたシンプルなRAGシステムの構築
前回はDSPyについての基本的な紹介を致しました。今回は、実際にDSPyにデータを取得させ、それについての回答をChatGPT-3.5にさせる、という少し具体的な使用方法を紹介しつつ、DSPyについての理解を深めて行きた ...
大規模言語モデルを使いやすくするPythonフレームワーク、DSPyの紹介
最近、OpenAIのChatGPT4oやSoraなど、新しいAIサービスが次々と発表され、その中核の技術でもある大規模言語モデル（LLM）が注目を集めています。LLMは、膨大な量のテキストデータを学習し、様々なタスクをこ ...
