忘れじのWEB用語

「LLMガードレール」に関する資料を無料で公開

AIリスクについての概要、LLMガードレールの基礎から、モデルアライメントとガードレールの違い、LLMガードレールの仕組みに関する図解や業界・分野での活用事例など、詳細な情報をわかりやすくまとめられた「LLMガードレール」に関する資料が無料で公開されています。

LLMガードレールとは、大規模言語モデル（LLM）の入力と出力を監視・制御し、安全かつ適切に機能させるための技術的・運用的な仕組みの総称で、道路のガードレールが車両の逸脱を防ぐように、AIが設定されたポリシーやコンプライアンス要件から逸脱しないようにするための安全対策として機能します。

無料ダウンロード

LLMガードレールは、車のガードレールと同じように「落ちてはいけない谷」を明確にし、そこから外れないよう、LLMの振る舞いを制御する仕組みだと考えるとイメージしやすくなり、例えば、危険な質問に答えない、個人情報を外に出さない、よく知らないことをそれらしく断言しない、といった「線引き」をコードとポリシーの組み合わせで実現していくイメージです。

まず大きな役割として、ガードレールは「安全・コンプライアンス・信頼性」の三つを支える中間レイヤーとして機能します。

LLMそのものは、与えられたテキストからもっともらしい続きを生成するだけなので「これは言ってはいけない」「この領域は専門家に回すべきだ」といった判断は標準状態だと弱いままであり、そこで利用者の入力をそのままLLMに渡すのではなく、一度フィルタリングし、出てきた回答もそのまま返さずに検査してからユーザーに届けるという二重の関所をつくるのがガードレールの基本的な構造になります。入力側のガードレールでは、ユーザーからの質問そのものをチェックし「この質問は危険そうだ」「法的にアウトになり得る」といったものを事前に弾き、爆発物や自殺手段のような露骨なテーマだけでなく、「How to 」のように表記をひねって検出を逃れようとするパターンまで、辞書的なルールと機械学習モデルの両方を組み合わせて見つけにいきます。

また、電話番号やマイナンバー、社内プロジェクトコードなどが入力に含まれていたら、それをマスキングしてからLLMに渡したり、「この内容は扱えません」と返すことで、ユーザー自身が気づかないうちに機密情報を投げてしまうリスクも抑えてくれます。

出力側のガードレールは、LLMが返してきたテキストを後見人のようにチェックする役割を担い、例えば、生成された回答の中に差別表現や過激な暴力表現が含まれていないかを別の判定ロジックで確認し、不適切と判断されたら回答を差し替えるか、「この内容には答えられません」といった安全なメッセージに変換します。

さらに、社内用のボットであれば、回答の中に顧客名や社名、機密に該当するキーワードが含まれていないかを精査し、もし含まれていればその部分を丸ごと伏せたり、回答自体を破棄することで、モデルのうっかり漏らしを防ぐことができます。

もう一歩踏み込んだ例として、ハルシネーション対策のガードレールも重要になっていて、LLMは知らないことでもそれらしく答えてしまうため、外部のナレッジベースや検索結果と照合し、「この回答は裏が取れているか」を検証する仕組みを挟むパターンが増えており、検証の結果、信頼度が低いと判断された場合には「現在わかっている情報はありません」「担当部署に確認が必要です」といった形で、あえて「わからない」と答えさせることで、誤情報をユーザーに届けないようにするわけです。

実装面においては、ガードレール専用のフレームワークやモデルもいくつか登場しており、それらを組み合わせて全体の「柵」を作っていきます。

Guardrails AIのようなツールでは、LLMの出力が期待した構造になっているか、値がポリシー上の範囲に収まっているかを検証し、問題があれば再生成させるといったパターンが代表的。

NVIDIA NeMo Guardrailsのような仕組みでは「政治の話題には踏み込まない」「業務範囲外の質問が来たらFAQや人間担当に回す」といった会話フローをDSLで定義し、チャットボット全体のふるまいをシナリオとして縛ることができます。

実際のビジネスシステムでは、社内チャットボットでの情報漏えい抑止や外部向けサポートボットでの過激表現・違法行為助長のブロックなど、ユースケースに応じた谷を洗い出し、その谷に落ちないようにガードレールを積み上げていく、という設計が一般的になりつつあります。

[

MacでローカルLLM

大規模言語モデル(LLM)は、一般的にクラウド上で運用されるのですが、どうやらMacのローカル環境で動かすこともできるようで、その際に今一番注目されているのが「LM Studio」。

Element Labsが開発した「LM Studio」を使えば、なんとインターネットに接続する必要がなく、重要なデータを外部に送信することなくなり安全に、さまざまなオープンソースのLLMをMacで利用することができるようになります。

ChatGPTやCopilotのような生成AIサービスでは、大規模言語モデル(LLM)の処理がクラウドで行なわれることから、今、自分のPCやサーバなどのローカル環境でLLMを動作させる「ローカルLLM」が最近注目を集めていて、その大きな理由は、インターネットに接続することなく高度な自然言語処理を実行でき、かつ重要なデータを外部に送信せずに済むというもの。

つまりは、プライバシーやセキュリティを重視する用途にも安心して利用できるというわけで、そんなローカルLLMをMacで実現するのが「LM Studio」。

一番の特徴は、GUIによる操作で、気軽にオープンソースのLLM(およびSLM)をダウンロードして試せることで、さらに非常に多くの言語モデルをサポートしていて、Googleの「Gemma」やMetaの「Llama」はもちろん、特定の言語モデルをベースにファインチューニングされた派生モデルなどもサポートしています。

一般的に言語モデルのパラメータ数が多いほど性能が高いとされているのですが、最近ではパラメータ数が少なくても高性能モデルに匹敵する処理能力を備えた小型モデル(SLM)も登場していて、日本語での応答性能に優れたモデルやプログラミングに特化したモデルなど、LM Studioを使えば自分好みの言語モデルを用途に応じて簡単に使い分けることが可能となります。

2025年7月8日、LM Studioは利用規約を更新し、これまで必要だった商用ライセンスを撤廃し、個人利用だけでなく、企業や組織における職場での利用も完全に無料となりました。

LM Studio

次世代のWebサイト構築フレームワーク「NextCMS」

デザインエディタを備えた、次世代のWebサイト構築フレームワーク「NextCMS」が開発者/制作会社向けにリリースされました。

NextCMSはデザインエディタとスクラッチ開発のハイブリッドなWebサイト構築フローを可能にし、スピーディで高機能なサイト構築を実現します。

基本的なパーツを組み上げる形でサイトのすべてをデザインエディタで編集することができ、テンプレート機能で制作の効率化を実現したり、スクラッチで複雑なデザインパーツを追加することも可能。

コア機能に影響せず、カスタム機能を簡単に追加することができ、一度開発した汎用機能は資産（コンポーネント）として保有でき、簡単に再利用できます。

また、フロントエンドエンジニアが開発しやすいよう、Typescript, Next.js, Prisma, muiなどの最新フロントエンド技術を使用して開発することもでき、SaaS型ノーコードエディタでの制作とフルスクラッチ開発のデメリットを解消し、制作フローを大きく改善します。

TypeScript言語の学習書が発刊

2025年2月4日、JavaScriptの改良版で現在の開発で人気の言語でもあり、ウェブ開発で必須のTypeScript言語の学習書「TECHNICAL MASTER はじめてのTypeScript エンジニア入門編」が発刊されます。

インターネットの世界において、ウェブやウェブアプリは必須なものであり、そのウェブアプリ開発でよく使われているJavaScriptを、安全に開発しやすくしたものがTypeScriptで、現在の開発ではなくてはならない言語といえます。

「はじめて」でも「よくわかる」5つのポイント

TypeScriptを効率よく習得できる機能解説。
豊富な例題で頭と手を刺激しながら学べる
JavaScriptの歴史を踏まえた「TypeScriptファースト」の姿勢
“Bun”や“Deno”などの新興ランタイムを積極的に採用
新しいプログラマーのためのTypeScript書籍。

著者：西山雄大
定価：2970円（税込）
発売：2025年2月4日

Git 入門編の提供開始。

TechTrainが、ソフトウェアエンジニアが実務でチーム開発をする際にほとんどの組織で採用されている開発ツール（バージョン管理システム）となるGitにフォーカスした学習教材を新たに公開。

新たに公開となった「Git 入門編」は、ソフトウェアエンジニアとしてすぐに現場で働くことができるよう、チーム開発の必須スキルである Git の基本的な仕組みを理解することができる教材となっており、ソフトウェアエンジニアとして実践力を身につけたい個人の利用者の方々はもちろん、Gitを使用する環境で業務に携わる予定のメンバーに向けた法人研修としても利用することが可能。

Gitというツールの使用方法（ターミナルを利用したコマンド操作）を、Web制作の流れをイメージしながら学ぶことができ、一般的な Git の教材は、Git のコマンドを紹介し、その意味を説明し、あとは暗記しましょうという流れのものが大変多く、Git には多数のコマンドが用意されているので網羅的な説明にはこのような流れが適切なのですが、開発実務に入って、チームの一員として Git を使い、業務を遂行できるようになるには、実例を伴う学び方が必須。

Git 入門編では、Git の基本的なコマンドを開発の流れに沿って学ぶことができるのはもちろん、実務の開発業務において起こり得る小さなトラブルにどう対処するか、という内容も含んでおり、さらに、効率的な Git の運用方法から、GitHub をつかったチーム開発の作法についても触れています。

このように、Git 入門編は実践力にフォーカスした Git 教材です。この教材の内容を十分に理解し、開発業務にスムーズに参画できるスキルを獲得しましょう。

note proにCMS機能が追加

法人向け高機能プランnote proは、note上でWebサイトを簡単に作成・更新できるCMS「サイト作成機能」の提供を6月20日（木）から開始。

本機能の追加により、noteの記事だけでなく外部サイトやメディアの記事、画像、プレゼン資料など、様々なコンテンツを自由に組み合わせたWebサイトを誰でも簡単につくれるようになり。また、コンテンツの制作からWebサイトの構築までをnote内で完結できるため、サイトを運用する企業担当者の負荷の軽減にもつながります。

こんな企業の皆さんにおすすめ

採用サイトを構築したい、中小企業の人事・採用担当者
職種別の採用ページを作成したい、中〜大規模企業の人事・採用担当者
オウンドメディア運営したい、中〜大規模企業の広報・PR担当者
商品やサービスを訴求するランディングページ（LP）を最小限のリソースで手軽に作成したい、スタートアップ企業のマーケティング担当者

以下の全6種類のテンプレートから、採用広報やブランディング、プロモーションなど目的にあったものを選択、テンプレートをそのまま使ってWebサイトを簡単に作成できるのはもちろん、追加でカスタマイズして自社の好みに合った見せ方にもできます。

採用情報サイト
採用情報サイト（職種リストあり）
企業メディアサイト
企業メディアサイト（バナーあり）
商品・プロダクト紹介サイト
サービス紹介サイト

Next.js 14リリース

10月26日、ReactベースのWebフレームワークNext.jsの最新版「Next.js 14」がリリースされ、ソースコードがGitHubに設置されています。

開発環境の改善に取り組んできたNext.jsは、コードのリアルタイム反映を行うホットリロードなども備える開発モードnext devコマンドの--turboオプションで起動するRust製のモジュールバンドラーツールTurbopackエクスペリエンスを向上させ、同社クラウドvercel.comで重ねてきた大規模なNext.jsアプリケーションでの統合テストでは、ローカルサーバで53.3%のコード更新で94.7%の高速化を実現しているのだそうで、今後、試験を重ねることで安定版をリリースする予定になるようです。

Turbopack

Rust製の高速なバンドルツール「Turbopack」が発表されました。

バンドルツールというのは、多数のJavaScriptやTypeScriptなどのコードを1つにまとめる機能を備えたツールで、多数のライブラリやコンポーネントなどを用いてチームで開発する大規模なWebアプリケーションの開発には欠かすことのできないもので、今回発表されたTurbopackは、どうやらWebpackの後継となるようですよ。

特徴は、Rustで記述されたネイティブアプリケーションで、一度実行された内容は再利用される仕組みを備えているのだそうで、これにより大規模なアプリケーションでも高速な起動と実行を実現してくれるようで、Next.js 13ではこのTurbopackが標準のバンドルツールとなるのだとか。

なんでも大規模なアプリケーションでは、TurbopackはViteよりも10倍速く、Webpackの700倍も高速で、さらに大きなアプリケーションであれば、もっと差は開くようです。

Git

Gitとは、バージョン管理システムと呼ばれるソフトウェアで、システム開発などでファイルを作成する途中の段階を記録することでソースコードを効果的に管理するために開発されました。

主要な機能として、「適切な段階で保存する」という機能があり、以下のことができるようになる。

各バージョンごとに「作成者、日付、作業メモ」などの付加情報を記録
作りかけのファイルを破棄し、前のバージョンに戻る
さらに過去のバージョンのファイルも取り出すことができる
トラブルなどがあった場合に、付加情報を振り返りながら追跡できる
2つのバージョンを比較して変更箇所を調べられる

開発を一人ですべて行うのであれば、そこまで重要ではないかもしれないが、大きなプロジェクトともなると多数の人が関わるためファイル構成が煩雑化しやすい傾向があり、このようなバージョン管理システムを導入することで、問題解決への近道となる。

Gitは、Linuxを開発したリーナス・トーバルズによって始められたようで、LinuxとGitという2つの発明があること自体、恐ろしくすごい人だということがわかる。

Gitには、大きく分けて2つの使い方があり、一つは自分のPCだけで利用する方法と、複数の人と共有して使う方法で、共有する場合は、Gitサーバをネットワーク上に立てるか、Gitサービスを利用することになるが、ほとんどはGitサーバを使うことになるはず。

とはいえ、いずれの場合にせよ、利用するPCにGitをインストール必要がある。

分散型のGit

バージョン管理システムには、「分散型」と「集中型」があり、Gitは「分散型」になる。

「集中型」の場合、データの置き場所はひとつであり、ネットワーク上のサーバ上に置かれ、自分のPCに保存されるのは、自分が作業に使うものだけであり、過去の履歴を調べるためには、サーバへアクセスする必要がある。

そして、恐ろしいのはサーバ上のデータになにかあったら、すべてを失うことになるので、サーバ管理者は常にバックアップを作成する必要がある。

それに比べ、「分散型」の場合、最終的にデータが集まる場所はひとつだが、参加しているメンバーのPCにも原則として同じデータがコピーされる。

そのため、通信環境のない場合であってもファイルを操作したり、履歴を調べたりすることが可能で、修正したものは、次回ネットワークに接続したときにデータ更新すればいい。

また、参加者全員がデータを持っているということで、メインのサーバになにかがあったとしても、復旧しやすい。

webpack

Node.jsで使われるモジュールバンドラーツールで、設定ファイルの柔軟性やloader、pluginというAPIを提供し強力な結合・連結機能を提供しており、それら周辺のエコシステムも充実していることから、現在もなおアクティブに開発されている。

WEBアプリケーションの開発においては多く利用されているバンドラーで、CSSやJavaScript、画像などWebサイトを構成するあらゆるファイルを1つにまとめてくれる。

メリットとして、コードが読みやすくなるうえ保守性も高まり、他のプロジェクトにも転用しやすくなる。

これは、開発者側だけでなく、ユーザーサイドにも大きな影響を与え、ファイルがまとめられることによって、スピーディな読み込み速度となり、ユーザビリティ向上につながる。

フロントエンドエンジニアにとっては、避けて通れない必要な技術がひととおり揃う、ということが最大の利点。