AI倫理・安全38語
AIを使ううえで気をつけるべきことです。バイアス、ディープフェイク、プロンプトインジェクション、アライメント、著作権、個人情報など、ニュースでよく見るのに何が問題なのか説明しにくい概念を扱います。
生成する道具で作った絵とそれをめぐる論点
AIと著作権AI & CopyrightAIの学習と生成物を巡る権利の問題
AIバイアスAI Bias学習データの偏りがAIの判断にそのまま残った状態
AI依存しすぎOver-Reliance間違いに気づく力まで一緒に落ちた状態
AI規制AI RegulationAIをどこまでどう使うか定めておくルール
AI生成物検出AI Content DetectionAIが作ったものかどうかを見分けること
AI透かしAI WatermarkAIが作ったものにこっそり仕込む印
AI倫理のジレンマAI Ethics Dilemma良い答えが複数あってぶつかる状況
APIキーAPI KeyAPIを呼ぶときに差し出す自分の身分証明
アライメントAlignmentAIの能力を人が望む方向に合わせること
エネルギー・環境コストEnvironmental CostAIを作り使うのにかかる電気と資源
おもねりSycophancyユーザーに合わせて誤りも正しいと言う癖
ガードレールGuardrailsAIが越えないよう前もって張る安全柵
グラウンディングGrounding答えの文を実際の根拠につなぎ留めること
コンテンツ来歴表示Content Credentialsファイルに付いて回る撮影・編集履歴の署名
ジェイルブレイクJailbreak利用者がAIを言いくるめ規則の外へ導くこと
ディープフェイクDeepfakeAIで顔や声を本物そっくりに合成した偽の映像・音声
データバイアスDataset Bias集めたデータ自体が一方に偏っている状態
ハルシネーションHallucinationAIがもっともらしい嘘の答えを作ってしまう現象
ブラックボックスBlack Box中身が見えないAIの判断過程
プロンプトインジェクションPrompt Injection外部資料に隠された指示がAIを動かす攻撃
モデルカードModel Cardモデルの使いどころと限界を書いた説明文書
モデル崩壊Model CollapseAIが作った物を再学習し多様性が失われる現象
レッドチーミングRed Teaming公開前にわざと突破を試み弱点を探す点検
音声クローンVoice Cloning短い録音で他人の声を真似ること
顔認識Face Recognition顔を照らし合わせて誰なのかを突き止めること
拒否Refusalしてはいけない要求をAIが断ること
堅牢性Robustness条件が揺らいでも通用し続ける性質
個人情報Privacy人物を特定できる情報を扱う問題
誤情報Misinformation事実でない内容が事実のように広まること
公正性FairnessAIが人をどう扱うかを問う基準
人の介入Human in the Loop取り消せない場面に人を残しておく方式
責任AccountabilityAIが出した結果に誰が答えるべきかを見極めること
説明可能性ExplainabilityAIがなぜそう判断したか示せる度合い
汎用人工知能AGI分野を問わず初めての仕事までこなすAI
標本の偏りSampling Bias誰を選んだかで生まれる資料の偏り
連合学習Federated Learning資料を集めず各自の学習結果だけ集める
話者認識Speaker Recognition声で誰が話したかを見分けること