【LLM】Ollamaをつかってgemma3:27bを動かしてみた。

-

Gemma 3 動作環境と利用状況

Gemma 3 を動作させるための環境と、実際に利用してみた状況についてまとめました。

動作環境

  • GPU: RTX-3090
  • OS: Ubuntu

利用条件

Gemma 3 を利用するには、Ollama 0.6 以上をインストールする必要があります。

実行コマンド

  • 4Bモデル: ollama run gemma3:4b
  • 12Bモデル: ollama run gemma3:12b
  • 27Bモデル: ollama run gemma3:27b

利用感

  • 個人または少人数での利用であれば、十分な性能を発揮できます。
  • GPU使用率は90%程度まで上昇しますが、それなりに利用可能です。
  • 多人数での利用の場合、多少の待ち時間が発生する可能性があります。
  • GPUメモリが不足する場合は、量子化された軽量モデル、または12Bモデルなどを利用することを推奨します。

コメント

コメントを投稿

このブログの人気の投稿

【iOS】SwiftでCGAffineTransformから角度・ラジアン・度数・スケールを計算する方法

-
メモ Swift 4 でtransformから角度、ラジアン、ディグリー、スケールを求める 忘れがちなので・・・。 let transform = view.transform let radians = atan2(transform.b, transform.a) let degrees = radians * 180 / .pi let scale = sqrt(abs(transform.a * transform.d - transform.b * transform.c)) import CoreGraphics extension CGAffineTransform { var angle: CGFloat { return atan2(b, a) } var radians: CGFloat { return angle } var degrees: CGFloat { return angle * 180.0 / CGFloat.pi } var scale: CGPoint { return CGPoint(x: sqrt(a * a + c * c), y: sqrt(b * b + d * d)) } } // 例として、適当な CGAffineTransform を作成 let transform = CGAffineTransform(rotationAngle: CGFloat.pi/4).scaledBy(x: 2.0, y: 1.5) let angleInRadians = transform.radians let angleInDegrees = transform.degrees let scale = transform.scale print("Angle in radians: \(angleInRadians)") print("Angle in degrees: \(angleInDegrees)") print("Scale: \(scale...
続きを読む

【Android】WebViewのズームボタン（ピンチイン・ピンチアウト）を非表示にする方法

-
androidでWebView画面を作成する時に、 ピンチインとピンチアウトを有効にした場合、 拡縮コントローラーのボタンを非表示にしたい時のメモ。 (ズームイン、アウトするボタンの事です。) あれが表示されると、結構うざい時がありますよね？ // WebViewのインスタンスを取得 WebView webview = findViewById(R.id.webview); // WebSettingsを取得 WebSettings settings = webview.getSettings(); // ピンチイン・ピンチアウトを有効にする settings.setSupportZoom(true); // 内蔵ズームコントロールを有効にする settings.setBuiltInZoomControls(true); // ズームコントロールのボタンを非表示にする settings.setDisplayZoomControls(false); // ←これが大事 この設定はAndroid APIレベル11以上でサポートされています。 ちょっと検索かけると、 消す方法がリフレクションして消すような古い記事しかなかったので探すのに苦労しました。
続きを読む

【iOS】UILabelでヒラギノフォントの上下が切れる問題と対処法

-
イメージ
iOS で開発していると、フォント指定がありますが、 ヒラギノフォントを指定した場合、 UILabel ( UIButton ) で表示しようとすると文字が切れるやつがいます。 特に、sizeToFit() を呼ぶと結構悲惨です。 切れる可能性がある文字たちは下記 ① gjpqy Ä Ö Ü ß ĀĂĄąĆĈĊČĎ Ņ gjの文字が消えないように検索したら、 他のサイトでは、 NSAttributedString.Key.baselineOffset: NSNumber(value:1.0) とか位置少し上にずらして attributedText に入れるとか記載がありますが完全ではありませんでした。 Ä Ö Ü の「..」のなどの部分が切れてしまいます。  そこで、どうしてもだめだったら、完全では無いですが、 下記を試して見てください。 clipsToBounds = false 意外と盲点だったりします。 まぁ、画面上下ピッタリの場合はだめかも知れませんが. こんな感じに表示可能です。（赤が本来のViewの領域）
続きを読む