AI倫理・安全
38語
AIを使ううえで気をつけるべきことです。バイアス、ディープフェイク、プロンプトインジェクション、アライメント、著作権、個人情報など、ニュースでよく見るのに何が問題なのか説明しにくい概念を扱います。
難易度
AIアートAI Art
生成する道具で作った絵とそれをめぐる論点
AIと著作権AI & CopyrightAIの学習と生成物を巡る権利の問題
AIバイアスAI Biasデータと作る過程の偏りでAIの判断が一方に傾いた状態
AI依存しすぎOver-Reliance間違った答えも見抜けないまま受け入れてしまうほど頼る状態
AI規制AI RegulationAIをどこまでどう使うか定めておくルール
AI生成物検出AI Content DetectionAIが作ったものかどうかを見分けること
AI透かしAI WatermarkAIが作った結果物の内側に目立たないよう仕込む印
AI倫理のジレンマAI Ethics Dilemma守る理由が複数あるのに、すべては守れない状況
APIキーAPI KeyAPIを呼ぶときに差し出す自分の身分証明
アライメントAlignmentAIの能力を人が望む方向に合わせること
エネルギー・環境コストEnvironmental CostAIを作り使うのにかかる電気と資源
おもねりSycophancyユーザーに合わせて誤りも正しいと言う癖
ガードレールGuardrailsAIが越えないよう前もって張る安全柵
グラウンディングGrounding答えの文を実際の根拠につなぎ留めること
コンテンツ来歴表示Content Credentialsファイルに付いて回る撮影・編集履歴の署名
ジェイルブレイクJailbreak利用者がAIを言いくるめ規則の外へ導くこと
ディープフェイクDeepfakeAIで顔や声を本物そっくりに合成した偽の映像・音声
データバイアスDataset Bias集めたデータ自体が一方に偏っている状態
ハルシネーションHallucinationAIがもっともらしい嘘の答えを作ってしまう現象
ブラックボックスBlack Box中身が見えないAIの判断過程
プロンプトインジェクションPrompt InjectionAIが受け取る文章に紛れ込ませた指示で元の規則を曲げる攻撃
モデルカードModel Cardモデルの使いどころと限界を書いた説明文書
モデル崩壊Model CollapseAIが作った物を再学習し多様性が失われる現象
レッドチーミングRed Teaming公開前と変更のたびにわざと突破を試み弱点を探す点検
音声クローンVoice Cloning短い録音で他人の声を真似ること
顔認識Face Recognition顔を照らし合わせて誰なのかを突き止めること
拒否RefusalAIが要求を受けながらも応じないと答えること
堅牢性Robustness条件が揺らいでも通用し続ける性質
個人情報Privacy人物を特定できる情報を扱う問題
誤情報Misinformation事実でない内容が事実のように広まること
公正性FairnessAIが人をどう扱うかを問う基準
人の介入Human in the LoopAIが働く流れの重要な場面に人の判断を差し込む方式
責任AccountabilityAIが出した結果に誰が答えるべきかを見極めること
説明可能性ExplainabilityAIがなぜそう判断したか示せる度合い
汎用人工知能AGI分野を問わず初めての仕事までこなすAI
標本の偏りSampling Bias誰を選んだかで生まれる資料の偏り
連合学習Federated Learning資料を集めず各自の学習結果だけ集める
話者認識Speaker Recognition声で誰が話したかを見分けること