Ética y seguridad38
Lo que conviene vigilar al usar IA. Sesgo, deepfakes, inyección de prompts, alineación, derechos de autor, privacidad: conceptos que salen en las noticias pero cuesta explicar con exactitud.
Costumbre de dar la razón al usuario aunque esté equivocado
AlineaciónAlignmentAjustar la capacidad de la IA a lo que las personas desean
AlucinaciónHallucinationCuando la IA inventa una respuesta falsa que suena convincente
Aprendizaje federadoFederated LearningJuntar solo el resumen de lo aprendido, sin juntar los datos
Arte con IAAI ArtImágenes hechas con herramientas generativas y lo que está en juego
Barreras de seguridadGuardrailsLa cerca de seguridad que se instala para que la IA no la cruce
Caja negraBlack BoxEl proceso de juicio de una IA cuyo interior no se puede ver
Clave de APIAPI KeyLa credencial que muestras al llamar a una API
Clonación vocalVoice CloningImitar la voz de una persona a partir de una grabación breve
Colapso del modeloModel CollapseCuando la IA aprende de lo que ella misma creó y pierde diversidad
Costo energético y ambientalEnvironmental CostLa electricidad y los recursos que cuesta crear y usar la IA
Credenciales de contenidoContent CredentialsLa firma con el historial de captura y edición de un archivo
DeepfakeVideo o audio falso en el que la IA imita una cara o una voz reales
Dependencia excesiva de la IAOver-RelianceEstado en el que también se pierde la capacidad de notar un error
Detección de contenido de IAAI Content DetectionDistinguir si algo fue hecho por la IA
Dilema ético de la IAAI Ethics DilemmaUna situación donde varias respuestas buenas chocan entre sí
EquidadFairnessEl criterio para juzgar si la IA trata bien a las personas
ExplicabilidadExplainabilityEl grado en que la IA puede mostrar por qué llegó a un juicio
Ficha del modeloModel CardEl documento que explica para qué sirve un modelo y sus límites
FundamentaciónGroundingAtar cada frase de la respuesta a una fuente real
Información falsaMisinformationContenido que no es cierto se difunde como si lo fuera
Inteligencia artificial generalAGILa IA que resuelve cualquier tarea nueva, sin límite de campo
Intervención humanaHuman in the LoopDejar a una persona en el punto donde ya no se puede volver atrás
Inyección de promptPrompt InjectionAtaque que mueve a la IA con instrucciones ocultas en un documento
JailbreakCuando el usuario convence a la IA de saltarse sus propias reglas
La IA y los derechos de autorAI & CopyrightLas preguntas de derechos alrededor del entrenamiento y lo generado
Marca de agua de IAAI WatermarkMarca oculta que una IA incrusta en lo que genera
PrivacidadPrivacyEl problema de tratar información que identifica a una persona
RechazoRefusalCuando la IA se niega a una petición que no debería atender
Reconocimiento de locutorSpeaker RecognitionDistinguir, por la voz, quién es la persona que habla
Reconocimiento facialFace RecognitionComparar rostros para averiguar quién es esa persona
Red teamingRevisión que intenta romper el sistema a propósito antes de lanzarlo
Regulación de la IAAI RegulationLas reglas que definen hasta dónde y cómo se puede usar la IA
ResponsabilidadAccountabilityDecidir quién debe responder por lo que produce la IA
RobustezRobustnessLa capacidad de seguir funcionando aunque las condiciones cambien
Sesgo de la IAAI BiasCuando el sesgo de los datos queda grabado en el juicio de la IA
Sesgo de muestreoSampling BiasUna inclinación de los datos que nace de a quién se eligió
Sesgo del conjunto de datosDataset BiasCuando los datos recopilados ya están inclinados hacia un lado