2025-06-30から1日間の記事一覧

Java で高速LLM推論 Jlima の始め方

はじめに プロジェクトの作成 Jlama の利用 LangChain4j インテグレーション はじめに Jlama は、Java で LLM を実行するためのライブラリです。 Jlama は JDK の Vector API により SIMD命令を使うことで高速な推論が可能となっています(Vector API はJDK25…