EU「AI法」、4段階のリスク区分が分ける境目はどこか。
問題文・答え・解説をまとめて読む(全10問)
Q1第1章 AI(人工知能)
1997年5月、当時のチェス世界チャンピオンを相手に、コンピュータが公式戦のルールの下で初めて勝利を収めるという出来事があった。IBMが開発した、このコンピュータの名称はどれ?
- ディープ・ブルー(Deep Blue)
- ワトソン(Watson)
- アルファ碁(AlphaGo)
- ディープ・ソート(Deep Thought)
答えを見る
答え:1— ディープ・ブルー(Deep Blue)
正解はディープ・ブルー(Deep Blue)です。IBMが開発したこの専用コンピュータは、1997年5月3日から11日にかけて行われた6番勝負で当時の世界チャンピオン、ガルリ・カスパロフを3勝2敗1分で下し、公式戦の持ち時間ルールの下でコンピュータが現役の世界チャンピオンに勝利した初めての事例となりました。毎秒2億手を評価する専用ハードウェアが特徴で、ワトソンは2011年のクイズ番組で人間に勝った別のIBM製AI、アルファ碁は2016年に囲碁で勝利したGoogle DeepMind製AIです。
Q2第3章 現在の生成AIの動向
2023年12月6日、Googleはテキスト・画像・音声・動画などを組み合わせて理解できるよう設計したと発表した大規模言語モデルを公開した。このモデルの名称はどれ?
- Bard
- PaLM
- LaMDA
- Gemini
答えを見る
答え:4— Gemini
正解はGeminiです。Googleは2023年12月6日、CEOのサンダー・ピチャイ氏らによるブログ投稿で、テキスト・画像・音声・動画・コードを組み合わせて扱えるよう設計段階から作られた「マルチモーダル」モデルGeminiを発表しました。Ultra・Pro・Nanoの3つのサイズで提供され、当時のチャットサービスBardにはPro版が組み込まれました。Bardはサービス名、PaLMとLaMDAはGemini以前にGoogleが使っていた言語モデルの名称で、いずれもGeminiとは別のモデルです。
Q3第2章 生成AI
2018年、Googleの研究者らは、文章を前からだけでなく前後双方向から読み込んで学習する事前学習モデルを発表した。GPTのような一方向の学習と対比されるこのモデルの名称はどれ?
- GPT-2
- BERT
- T5
- ELMo
答えを見る
答え:2— BERT
正解はBERT(Bidirectional Encoder Representations from Transformers)です。DevlinらGoogleの研究者が2018年に発表した論文で提案され、文章中の単語を前後双方向の文脈から同時に読み込んで学習する点が特徴です。文章の一部を伏せて単語を予測させる「マスク言語モデル」という学習方法を用い、質問応答や文章分類など当時の最高性能を更新しました。前から順にしか読まないGPTシリーズの自己回帰的な学習方式とはこの点で対照的です。
Q4第4章 情報リテラシー・基本理念とAI社会原則
2024年8月1日に発効したEUの「AI法(AI Act)」は、AIシステムをリスクの大きさに応じて4段階に分類し、規制の重さを変える方式を採用している。この4段階の組み合わせとして正しいものはどれ?
- 高リスク・中リスク・低リスク・無リスク
- 第1種・第2種・第3種・第4種
- 許容できないリスク・高リスク・限定的リスク・最小リスク
- 必須対応・推奨対応・任意対応・対応不要
答えを見る
答え:3— 許容できないリスク・高リスク・限定的リスク・最小リスク
正解は「許容できないリスク・高リスク・限定的リスク・最小リスク」です。EUのAI法(AI Act)は2024年7月12日に官報掲載、同年8月1日に発効した世界初の包括的なAI規制法で、AIシステムが人の安全や権利に与えうる影響の大きさに応じて4段階のリスク区分を設け、区分ごとに異なる義務を課しています。社会的スコアリングなど許容できないリスクに当たる用途は原則禁止、高リスクに当たるAIには適合性評価などの義務、限定的リスク(チャットボットやディープフェイクなど)には透明性確保の義務が課され、最小リスクのAIには法的義務はほぼありません。
Q5第2章 生成AI
生成AIの代表的なモデルの一つに、入力データをいったん低次元の潜在空間(潜在変数)に圧縮し、その確率分布からデータを再構成することで新しいデータを生成する手法がある。2013年にKingmaとWellingが発表した論文で提案された、この手法の名称はどれ?
- VAE(変分オートエンコーダ)
- GAN(敵対的生成ネットワーク)
- CNN(畳み込みニューラルネットワーク)
- Transformer
答えを見る
答え:1— VAE(変分オートエンコーダ)
正解はVAE(Variational Autoencoder、変分オートエンコーダ)です。2013年にKingmaとWellingが発表した論文「Auto-Encoding Variational Bayes」で提案された生成モデルで、入力データをエンコーダで低次元の潜在変数の確率分布に圧縮し、そこからサンプリングした値をデコーダで元のデータに近い形へ再構成することで、新しいデータを生成します。生成器と識別器を競わせるGANとは異なる仕組みで、画像生成AIの基礎技術の一つとして位置づけられています。
Q6第5章 テキスト生成AIのプロンプト制作と実例
生成AIへのプロンプトの与え方のうち、模範解答となる例文を一つも示さず、やってほしい作業の指示だけを与えて回答させる手法がある。この手法の名称はどれ?
- Few-shotプロンプティング
- Chain-of-Thoughtプロンプティング
- ゼロショットプロンプティング
- Role prompting
答えを見る
答え:3— ゼロショットプロンプティング
正解はゼロショットプロンプティングです。模範となる解答例(デモンストレーション)を一切与えず、指示文だけで生成AIに作業を行わせる手法を指します。近年の大規模言語モデルは大量のデータで指示に従うよう学習されているため、例を示さなくても一定の精度でタスクをこなせる場合があります。例を1つ以上添えるのはFew-shotプロンプティング、段階的な思考過程を書かせるのはChain-of-Thoughtプロンプティング、役割を与えて回答の調子を変えさせるのはRole promptingで、いずれもゼロショットとは異なる技法です。
Q7第1章 AI(人工知能)
AI研究には期待と失望を繰り返す「AIの冬」の歴史があり、1980年代には企業の知識やノウハウをルールの形で蓄え、専門家のように推論させる仕組みが「第二次AIブーム」を牽引した。この仕組みの名称はどれ?
- ニューラルネットワーク
- 強化学習
- 遺伝的アルゴリズム
- エキスパートシステム
答えを見る
答え:4— エキスパートシステム
正解はエキスパートシステムです。専門家の知識・経験を蓄積した「知識ベース」と、そこから「AならばCである」といったIF-THENルールで推論する「推論エンジン」から構成され、1980年代に各企業が開発を競い、第二次AIブームを牽引しました。しかしルールの数が増えるほど推論に時間がかかる「組み合わせ爆発」などの課題が明らかになり、1990年代以降は下火になりました。ニューラルネットワークや強化学習は、その後の第三次AIブームを支える別の技術です。
Q8第3章 現在の生成AIの動向
生成AIのサービスの中には、単に質問に答えるだけでなく、与えられた目標の達成に向けて自らタスクを洗い出し、複数の手順やツールの実行を自律的に進めるものが増えている。このような仕組みを指す呼び方はどれ?
- チャットボット
- AIエージェント
- レコメンドエンジン
- RPA(ロボティック・プロセス・オートメーション)
答えを見る
答え:2— AIエージェント
正解はAIエージェントです。人間が最終的な目標だけを設定すれば、必要なタスクの洗い出しから各タスクの実行、情報の収集・分析、実行結果の評価までを自律的に行うソフトウェアの仕組みを指します。あらかじめ決められた受け答えを返すだけのチャットボットや、定義済みの手順を繰り返すRPAとは異なり、目標分解・計画・実行・評価というループを自分で回す点が特徴です。一方で誤った判断を自律的に実行してしまうリスクもあり、権限の最小化や人間による承認を挟むガードレール設計が課題とされています。
Q9第4章 情報リテラシー・基本理念とAI社会原則
AIのリスクを組織が管理するための実務的な枠組みとして、米国の国立標準技術研究所(NIST)は2023年1月26日に、法的拘束力を持たない自主的な指針を公開した。この枠組みの名称はどれ?
- AIリスクマネジメントフレームワーク(AI RMF)
- ISO/IEC 42001
- GDPR(一般データ保護規則)
- SOC 2
答えを見る
答え:1— AIリスクマネジメントフレームワーク(AI RMF)
正解はAIリスクマネジメントフレームワーク(AI RMF 1.0)です。米国NISTが2023年1月26日に公開した、AIを設計・開発・導入・利用する組織が任意で参照できるガイダンス文書で、240以上の組織から寄せられた約400件のコメントを経てまとめられました。「統治(Govern)」「対応付け(Map)」「測定(Measure)」「管理(Manage)」という4つの機能で構成され、AI活用に伴う信頼性に関わるリスクを実務に組み込むことを狙っています。ISO/IEC 42001はAIマネジメントシステムの国際規格、GDPRはEUの個人データ保護規則で、いずれもAI RMFとは別の枠組みです。
Q10第5章 テキスト生成AIのプロンプト制作と実例
生成AIの応答の多様性を調整するパラメータには、よく使われる「temperature」のほかに、出現確率の高い候補トークンから累積確率が指定した割合に達するまでを候補集合として扱う手法がある。この手法・パラメータの名称はどれ?
- max_tokens
- frequency_penalty
- presence_penalty
- Top-p(nucleus sampling)
答えを見る
答え:4— Top-p(nucleus sampling)
正解はTop-p(nucleus sampling、核サンプリング)です。OpenAIなどのAPIで提供されるパラメータで、出現確率の高いトークンから順に足し合わせ、累積確率が指定したpの値(0〜1)に達するまでの範囲だけを次のトークンの候補とします。値を下げるほど候補が絞られ出力が決定的になり、上げるほど多様な表現が選ばれやすくなります。OpenAIはtemperatureとTop-pを同時に変更しないことを推奨しています。max_tokensは出力の文字数上限、frequency_penaltyとpresence_penaltyは同じ語の繰り返しを抑える別のパラメータです。