Ética y seguridad
38
Lo que conviene vigilar al usar IA. Sesgo, deepfakes, inyección de prompts, alineación, derechos de autor, privacidad: conceptos que salen en las noticias pero cuesta explicar con exactitud.
Nivel
AdulaciónSycophancy
Costumbre de dar la razón al usuario aunque esté equivocado
AlineaciónAlignmentAjustar la capacidad de la IA a lo que las personas desean
AlucinaciónHallucinationCuando la IA inventa una respuesta falsa que suena convincente
Aprendizaje federadoFederated LearningJuntar solo el resumen de lo aprendido, sin juntar los datos
Arte con IAAI ArtImágenes hechas con herramientas generativas y lo que está en juego
Barreras de seguridadGuardrailsLa cerca de seguridad que se instala para que la IA no la cruce
Caja negraBlack BoxEl proceso de juicio de una IA cuyo interior no se puede ver
Clave de APIAPI KeyLa credencial que muestras al llamar a una API
Clonación vocalVoice CloningImitar la voz de una persona a partir de una grabación breve
Colapso del modeloModel CollapseCuando la IA aprende de lo que ella misma creó y pierde diversidad
Costo energético y ambientalEnvironmental CostLa electricidad y los recursos que cuesta crear y usar la IA
Credenciales de contenidoContent CredentialsLa firma con el historial de captura y edición de un archivo
DeepfakeVideo o audio falso en el que la IA imita una cara o una voz reales
Dependencia excesiva de la IAOver-RelianceConfiar tanto que se aceptan respuestas erróneas sin detectarlas
Detección de contenido de IAAI Content DetectionDistinguir si algo fue hecho por la IA
Dilema ético de la IAAI Ethics DilemmaVarias razones válidas que no se pueden seguir todas a la vez
EquidadFairnessEl criterio para juzgar si la IA trata bien a las personas
ExplicabilidadExplainabilityEl grado en que la IA puede mostrar por qué llegó a un juicio
Ficha del modeloModel CardEl documento que explica para qué sirve un modelo y sus límites
FundamentaciónGroundingAtar cada frase de la respuesta a una fuente real
Información falsaMisinformationContenido que no es cierto y se difunde como si lo fuera
Inteligencia artificial generalAGILa IA capaz de resolver incluso tareas nuevas, sin límite de campo
Intervención humanaHuman in the LoopPoner el juicio humano en los puntos clave del flujo de la IA
Inyección de promptPrompt InjectionAtaque que tuerce las reglas de la IA con instrucciones en su entrada
JailbreakCuando el usuario convence a la IA de saltarse sus propias reglas
La IA y los derechos de autorAI & CopyrightLas preguntas de derechos alrededor del entrenamiento y lo generado
Marca de agua de IAAI WatermarkMarca discreta que una IA incrusta dentro de lo que genera
PrivacidadPrivacyEl problema de tratar información que identifica a una persona
RechazoRefusalCuando la IA recibe una petición y responde que no la va a atender
Reconocimiento de locutorSpeaker RecognitionDistinguir, por la voz, quién es la persona que habla
Reconocimiento facialFace RecognitionComparar rostros para averiguar quién es esa persona
Red teamingRevisión que busca romper el sistema antes de lanzarlo y tras cambios
Regulación de la IAAI RegulationLas reglas que definen hasta dónde y cómo se puede usar la IA
ResponsabilidadAccountabilityDecidir quién debe responder por lo que produce la IA
RobustezRobustnessLa capacidad de seguir funcionando aunque las condiciones cambien
Sesgo de la IAAI BiasCuando el sesgo de los datos y del proceso inclina el juicio de la IA
Sesgo de muestreoSampling BiasUna inclinación de los datos que nace de a quién se eligió
Sesgo del conjunto de datosDataset BiasCuando los datos recopilados ya están inclinados hacia un lado