忘れじのWEB用語

AIリスクについての概要、LLMガードレールの基礎から、モデルアライメントとガードレールの違い、LLMガードレールの仕組みに関する図解や業界・分野での活用事例など、詳細な情報をわかりやすくまとめられた「LLMガードレール」に関する資料が無料で公開されています。

LLMガードレールとは、大規模言語モデル（LLM）の入力と出力を監視・制御し、安全かつ適切に機能させるための技術的・運用的な仕組みの総称で、道路のガードレールが車両の逸脱を防ぐように、AIが設定されたポリシーやコンプライアンス要件から逸脱しないようにするための安全対策として機能します。

LLMガードレールは、車のガードレールと同じように「落ちてはいけない谷」を明確にし、そこから外れないよう、LLMの振る舞いを制御する仕組みだと考えるとイメージしやすくなり、例えば、危険な質問に答えない、個人情報を外に出さない、よく知らないことをそれらしく断言しない、といった「線引き」をコードとポリシーの組み合わせで実現していくイメージです。

まず大きな役割として、ガードレールは「安全・コンプライアンス・信頼性」の三つを支える中間レイヤーとして機能します。

LLMそのものは、与えられたテキストからもっともらしい続きを生成するだけなので「これは言ってはいけない」「この領域は専門家に回すべきだ」といった判断は標準状態だと弱いままであり、そこで利用者の入力をそのままLLMに渡すのではなく、一度フィルタリングし、出てきた回答もそのまま返さずに検査してからユーザーに届けるという二重の関所をつくるのがガードレールの基本的な構造になります。入力側のガードレールでは、ユーザーからの質問そのものをチェックし「この質問は危険そうだ」「法的にアウトになり得る」といったものを事前に弾き、爆発物や自殺手段のような露骨なテーマだけでなく、「How to 」のように表記をひねって検出を逃れようとするパターンまで、辞書的なルールと機械学習モデルの両方を組み合わせて見つけにいきます。

また、電話番号やマイナンバー、社内プロジェクトコードなどが入力に含まれていたら、それをマスキングしてからLLMに渡したり、「この内容は扱えません」と返すことで、ユーザー自身が気づかないうちに機密情報を投げてしまうリスクも抑えてくれます。

出力側のガードレールは、LLMが返してきたテキストを後見人のようにチェックする役割を担い、例えば、生成された回答の中に差別表現や過激な暴力表現が含まれていないかを別の判定ロジックで確認し、不適切と判断されたら回答を差し替えるか、「この内容には答えられません」といった安全なメッセージに変換します。

さらに、社内用のボットであれば、回答の中に顧客名や社名、機密に該当するキーワードが含まれていないかを精査し、もし含まれていればその部分を丸ごと伏せたり、回答自体を破棄することで、モデルのうっかり漏らしを防ぐことができます。

もう一歩踏み込んだ例として、ハルシネーション対策のガードレールも重要になっていて、LLMは知らないことでもそれらしく答えてしまうため、外部のナレッジベースや検索結果と照合し、「この回答は裏が取れているか」を検証する仕組みを挟むパターンが増えており、検証の結果、信頼度が低いと判断された場合には「現在わかっている情報はありません」「担当部署に確認が必要です」といった形で、あえて「わからない」と答えさせることで、誤情報をユーザーに届けないようにするわけです。

実装面においては、ガードレール専用のフレームワークやモデルもいくつか登場しており、それらを組み合わせて全体の「柵」を作っていきます。

Guardrails AIのようなツールでは、LLMの出力が期待した構造になっているか、値がポリシー上の範囲に収まっているかを検証し、問題があれば再生成させるといったパターンが代表的。

NVIDIA NeMo Guardrailsのような仕組みでは「政治の話題には踏み込まない」「業務範囲外の質問が来たらFAQや人間担当に回す」といった会話フローをDSLで定義し、チャットボット全体のふるまいをシナリオとして縛ることができます。

実際のビジネスシステムでは、社内チャットボットでの情報漏えい抑止や外部向けサポートボットでの過激表現・違法行為助長のブロックなど、ユースケースに応じた谷を洗い出し、その谷に落ちないようにガードレールを積み上げていく、という設計が一般的になりつつあります。

法人向け高機能プランnote proは、note上でWebサイトを簡単に作成・更新できるCMS「サイト作成機能」の提供を6月20日（木）から開始。

本機能の追加により、noteの記事だけでなく外部サイトやメディアの記事、画像、プレゼン資料など、様々なコンテンツを自由に組み合わせたWebサイトを誰でも簡単につくれるようになり。また、コンテンツの制作からWebサイトの構築までをnote内で完結できるため、サイトを運用する企業担当者の負荷の軽減にもつながります。

こんな企業の皆さんにおすすめ

• 採用サイトを構築したい、中小企業の人事・採用担当者
• 職種別の採用ページを作成したい、中〜大規模企業の人事・採用担当者
• オウンドメディア運営したい、中〜大規模企業の広報・PR担当者
• 商品やサービスを訴求するランディングページ（LP）を最小限のリソースで手軽に作成したい、スタートアップ企業のマーケティング担当者

以下の全6種類のテンプレートから、採用広報やブランディング、プロモーションなど目的にあったものを選択、テンプレートをそのまま使ってWebサイトを簡単に作成できるのはもちろん、追加でカスタマイズして自社の好みに合った見せ方にもできます。

• 採用情報サイト
• 採用情報サイト（職種リストあり）
• 企業メディアサイト
• 企業メディアサイト（バナーあり）
• 商品・プロダクト紹介サイト
• サービス紹介サイト