AIツール 読了 8分 AirLLMとは?RTX3060で70Bを動かす仕組みと限界 手元のRTX 3060で70Bクラスの大規模言語モデルを動かしたい。そう考えて調べると、「4GBのVRAMで70Bが動く」とうたうAirLL...
ローカルLLM・自宅AI環境 読了 6分 GTX1660 SUPERでローカルLLMは動く?VRAM6GBの実力を検証 ※本記事にはアフィリエイト広告(プロモーション)が含まれています。 「GTX1660 SUPERを持っているけど、ローカルLLMは動かせるの...
