AI Governance

AIを使う。
その判断には、人が責任を持つ。

情報セキュリティが「データは漏れないか」に答えるものだとすれば、AIガバナンスが答えるのは「AIが間違えたり、勝手に判断したり、使ってはいけないデータを使ったりしないか」です。

Technica AIは、生成AIを実際の業務システムに組み込むことを仕事にしています。だからこそ、理念ではなく、開発と運用の現場で実際に守っているルールを公開します。総務省・経済産業省「AI事業者ガイドライン（第1.2版）」の共通の指針に沿って整理しています。

01 ご同意なく、お客様のデータを学習に使いません。

ご同意のない限り、お預かりしたデータをモデルの学習には使用しません。外部の生成AIサービスの学習にも提供しません。

02 重要な判断は人が行います。

影響の大きい操作には人の承認を必須とし、業務プロセスごとの最終決定者を設計時に決めます。

03 根拠を示します。

当社が構築するシステムでは、回答に出典を示し、いつ・どのモデルが・何を参照して出力したのかを記録できるように設計します。

8つの実装ルールを見る
Scope

このページは、情報セキュリティとは
別の問いに答えます。

二つは混同されがちですが、確認すべき対象が違います。Technica AIでは、それぞれ別のページで開示しています。

Information Security

データは漏れないか。

保管場所とクラウドのリージョン、アクセス制御、再委託の範囲、持ち出しの禁止。お預かりした情報が、想定外の場所へ出ていかないための仕組みです。

情報セキュリティ体制を見る
AI Governance

AIが間違えたり、勝手に判断したりしないか。

学習に使うデータ、モデルの選び方、人が承認する範囲、精度の測り方、根拠の残し方、AI特有の攻撃への備え。AIそのものの振る舞いを管理するための仕組みです。

Implementation Rules

8つの実装ルール。

方針だけでは、お客様のリスク管理部門の確認には足りません。各ルールについて、実務でどう運用し、どの文書をお出しできるかまで記載しています。

01

お客様のデータの取り扱い

Customer Data

お預かりしたデータは、当該案件の目的以外に使用しません。モデルの学習に使う場合は、範囲と期間を明示し、個別に書面でご同意をいただきます。

実務での運用

  • 学習・ファインチューニングへの利用は、既定では行いません。行う場合は、対象データ、目的、保存期間、削除条件を契約書または覚書に明記します。
  • 外部のLLMへ送信してよいデータの区分を、案件ごとに定義します（送信可／マスキングのうえ送信可／送信不可）。区分はデータ取扱区分表として文書化し、お客様の承認をいただきます。
  • 個人情報、機微情報、営業秘密を含むデータは、既定で「送信不可」に置きます。必要な場合は、匿名化・仮名化の方法を含めて合意します。
  • 外部にデータを出せない環境では、オープンウェイトモデルによる閉じた構成を選択できます。
  • 推論ログの保存期間と保存先のリージョンを、案件ごとに定めます。

お客様にお出しできるもの

データ取扱区分表、学習利用に関する覚書、ログ保存仕様

02

モデルの選定

Model Selection

特定のLLMに依存しません。モデルは、セキュリティ要件、精度、応答速度、コストの4点で評価して選定し、選定理由を記録します。

実務での運用

  • 同一の処理を複数モデルで評価し、比較表を添えてご提案します。「最新だから」という理由では選びません。
  • お客様の制約（国内リージョン限定、データを外部へ出せない、オンプレミス）を、最初の絞り込み条件に置きます。
  • クローズドな環境では、オープンウェイトモデルの量子化と領域データによる調整を組み合わせ、閉じた構成でも実用的な応答速度を確保します。
  • 1社のAPIに固定されない抽象化層を設け、切り替えが技術的に可能な構成を既定とします。
  • コストは推論単価だけでなく、想定利用量とリトライを含めた月額見込みで比較します。

お客様にお出しできるもの

モデル比較表（評価軸・スコア・選定理由）、切り替え可能性に関する構成図

03

人による監督

Human Oversight

AIは判断を補助します。影響の大きい操作は、人の承認なしに実行させません。

実務での運用

  • 設計時に、業務プロセスごとの最終決定者を明示します。誰が承認するのかを設計書に書きます。
  • 操作を影響度で分類し、外部送信、金銭の移動、データの削除・更新、顧客への自動応答など高リスクの操作は、人の承認を必須とします。
  • エージェント構成では、実行できるツールと権限を事前に列挙し、列挙されていない操作は実行できない設計とします（許可リスト方式）。
  • 自動化バイアスを避けるため、AIの出力には根拠または確信度を併記し、「そのまま承認」を促す画面設計を避けます。
  • 例外時は人へ引き継ぎます。引き継ぎの条件を運用設計に明記します。

お客様にお出しできるもの

承認フロー図、ツール権限一覧、エスカレーション条件の一覧

04

精度と評価

Accuracy & Evaluation

導入前に評価します。請負開発では、合意した評価基準を満たすことを検収条件とします。PoCでは、評価基準は達成義務ではなく判断材料として用います。特定の出力そのものは保証しません。

実務での運用

  • お客様の実データから評価セットを作成し、導入前にベンチマークを実施します。
  • 測定する項目は、タスク精度、ハルシネーション率（根拠のない生成の割合）、根拠提示率、応答時間、拒否すべき質問を正しく拒否した率です。
  • 合否の基準値は、業務で許容できる水準からお客様と合意して決めます。基準はテスト仕様書と検収基準書に記載します。
  • モデルやプロンプトを更新した際は、同じ評価セットでリグレッションテストを実施し、劣化がないことを確認してから反映します。
  • 運用開始後もサンプリング評価を継続し、結果を定例でご報告します。

お客様にお出しできるもの

評価計画書、ベンチマーク結果報告書、リグレッションテスト結果

05

追跡可能性

Traceability

どのモデルが、どの情報を参照して出力したのかを、後から確認できる状態にします。

実務での運用

  • 社内ナレッジを参照する機能では、回答に出典（文書名、該当箇所へのリンク）を必ず添えます。
  • 監査ログとして、実行日時、利用者、使用モデルとバージョン、参照した文書、入力と出力、承認者を記録します。
  • エージェントが複数の手順を実行した場合は、実行した手順とツール呼び出しの履歴を残します。
  • ログの保存期間、閲覧権限、エクスポート方法をお客様と合意します。
  • 個人情報を含むログの取り扱いは、情報セキュリティ体制のルールに従います。

お客様にお出しできるもの

ログ項目定義書、監査ログのサンプル、保存・削除の運用手順

06

AIのセキュリティ

AI Security

従来のシステムセキュリティに加えて、プロンプトインジェクションなどAI特有の攻撃を前提に設計します。

実務での運用

  • プロンプトインジェクション：外部から取り込む文書やWebページを「信頼できない入力」として扱い、システム指示と分離します。ツール実行は許可リストで制限します。
  • データ漏えい：利用者の権限に応じて参照できる文書を制御し、権限外の文書が回答に混入しない設計とします（検索の段階で絞ります）。
  • アクセス制御：既存の認証基盤と連携し、AI機能側で独自のアカウントを作らない構成を基本とします。
  • ツール・操作の認可：エージェントが呼び出せるAPIと操作範囲を定義し、書き込み系の操作には承認を挟みます。
  • データ汚染：ナレッジへの取り込み元を限定し、取り込み時に出所を記録します。
  • リリース前に、攻撃的な入力を含むテストケースでこれらの観点を検証します。

お客様にお出しできるもの

AIセキュリティのテスト観点一覧、テスト結果、権限設計書

07

モデルの変更管理

Model Changes

モデルやプロバイダの変更は、システム変更と同じ手続きで管理します。お客様にお知らせせずに差し替えることはありません。

実務での運用

  • モデルのバージョン、プロンプト、パラメータを構成管理の対象とし、変更履歴を残します。
  • 変更前に影響評価を行い、評価セットで比較した結果を添えてご提案します。
  • 本番への反映はお客様の承認後に行います。必要に応じて段階的に切り替え、問題があれば元のバージョンへ戻せるようにします。
  • 提供元によるモデルの提供終了を監視し、事前に移行計画をご提示します。
  • 自社製品でモデルを更新する場合は、リリースノートで影響範囲を告知します。

お客様にお出しできるもの

変更影響評価書、比較評価結果、リリースノート

08

第三者AIサービスの利用

Third-party AI

OpenAI、Anthropic、Googleなどの外部サービスは、条件を確認したうえで、お客様の承認を得て利用します。

実務での運用

  • 利用するサービスと用途を案件ごとに一覧化し、契約前にお客様へご提示します。
  • 確認する項目は、学習への利用の有無（オプトアウトの可否）、データ保持期間、処理が行われるリージョン、サブプロセッサ、セキュリティ認証、利用規約上の制約です。
  • 入力データを学習に使用しない条件の事業者向けプランを既定とします。
  • 外部送信が許されない案件では、外部サービスを使わない構成をご提案します。
  • 利用中のサービスの規約変更を監視し、条件が変わった場合はお客様へ通知します。

お客様にお出しできるもの

利用サービス一覧（用途・送信データ・リージョン・学習利用の有無）

Limits

このページで約束しないこと。

できることだけを並べた開示は、確認する側にとって役に立ちません。Technica AIが引き受けない範囲も、あわせて明示します。

生成AIの出力は確率的であり、特定の出力内容そのものは保証しません。請負開発では、合意した評価基準を満たすことを検収条件とします。PoCでは、評価基準は達成義務ではなく判断材料として用います。

外部の生成AIサービスの内部動作、学習データ、将来の仕様変更を、当社が統制することはできません。できるのは、条件の確認、監視、代替構成のご提示までです。

AIに最終決定を委ねる設計は、原則としてお受けしません。重要な判断には、必ず人の承認を挟む構成をご提案します。

人の評価・選別に直接用いる用途（採用可否の決定など）は、適用範囲を限定することを前提に、個別にご相談のうえ判断します。

Before You Ask

よくある確認事項。

貴社のお客様へご説明いただく際に、そのまま引用できるよう具体的に記載しています。

お客様のデータをモデルの学習に使いますか。

使いません。お預かりしたデータは当該案件の目的以外には使用せず、外部の生成AIサービスの学習にも提供しません。

学習・ファインチューニングに利用する場合は、対象データ、目的、保存期間、削除条件を明示し、個別に書面でご同意をいただいたうえで行います。

外部のLLMには、どのデータが送信されますか。

案件ごとにデータ取扱区分表を作成し、送信可／マスキングのうえ送信可／送信不可の3区分で定義します。個人情報、機微情報、営業秘密を含むデータは既定で「送信不可」です。

区分はお客様の承認をいただいてから運用を開始します。外部にデータを出せない場合は、オープンウェイトモデルによる閉じた構成を選択できます。

使用しているモデルとバージョンを教えてもらえますか。

開示します。モデル名とバージョン、選定理由、比較した他のモデルの評価結果をまとめた比較表をご提出します。実行ログにも、どのモデルのどのバージョンが使われたかを記録します。

モデルが更新されると、挙動が変わりませんか。

変わり得るため、モデル・プロンプト・パラメータを構成管理の対象とし、変更前に影響評価を行います。同じ評価セットでリグレッションテストを実施し、劣化がないことを確認してから反映します。

本番への反映はお客様の承認後です。問題があれば元のバージョンへ戻せる構成とします。

AIの回答が間違っていた場合、誰が責任を負いますか。

業務上の最終決定は人が行う設計を基本としており、その決定の責任はプロセス上の決定者にあります。Technica AIは、請負開発では、合意した評価基準を満たすシステムを提供する責任を負います。PoCでは、評価基準は達成義務ではなく判断材料として用います。

検収の基準、契約不適合責任の範囲は「契約・導入の進め方」に記載しています。

出力の根拠は確認できますか。

社内ナレッジを参照する機能では、回答に出典（文書名と該当箇所）を添えます。監査ログには、実行日時、利用者、使用モデル、参照した文書、入力と出力、承認者を記録します。

エージェントが複数の手順を実行した場合は、手順とツール呼び出しの履歴も残します。

AIエージェントが勝手に操作を実行することはありませんか。

実行できるツールと操作範囲を事前に列挙し、列挙されていない操作は実行できない許可リスト方式とします。外部送信、金銭の移動、データの削除・更新など影響の大きい操作には、人の承認を必須とします。

プロンプトインジェクションへの対策はしていますか。

外部から取り込む文書やWebページは「信頼できない入力」として扱い、システム指示と分離します。ツールの実行は許可リストで制限し、書き込み系の操作には承認を挟みます。

リリース前に、攻撃的な入力を含むテストケースで検証し、結果をご提出します。

閲覧権限のない文書の内容を、社員がAI経由で引き出すことはできませんか。

利用者の権限に応じて検索対象の文書を絞る設計とし、権限外の文書が回答に混入しない構成にします。認証は既存の認証基盤と連携し、AI機能側で独自のアカウントを作らないことを基本とします。

AIガバナンスに関する資料を、自社の顧客へ提示してもよいですか。

可能です。本ページの内容はそのままご提示いただけます。貴社のお客様への説明資料、セキュリティチェックシートへのご回答、個別のご説明にも対応します。

Let's Talk

AIガバナンスについて、
個別にご説明します。

セキュリティチェックシートへのご回答、
貴社のお客様への説明資料のご提供にも対応します。

お問い合わせ