共同作者：Timothy Carambat，Mintplex Labs创始人。 大多数大语言模型（LLM）有两个共同点：大语言模型不太容易设置，并且大语言模型一般在云服务器或数据中心运行。如果您希望在无需学习安装和 ...

NPUを使ってLLMを動かす方法が少しずつ増えてきている。今回紹介する「AnythingLLM」は、最も簡単に導入できるNPU対応LLMツールの1つだ。 導入方法は、公式サイトからソフトをダウンロードし ...

前回、「GenieX」というAIツールを使って、Snapdragon XのNPUでAIチャットするという話題をお伝えした。今回はその続きで、「GenieX」をCLIで使うのではなく、「AnythingLLM」と連携させてGUI上で使う ...

「AnythingLLM」というチャットAIツールがある。筆者はQualcommのSoC「Snapdragon X」のNPUで動かせるローカルLLMがあると聞いて試したことがあったのだが、どうも本ツールの本領は「Retrieval-Augmented ...