Cuando una funcionalidad depende de un modelo, aparecen preguntas que el vocabulario clásico de producto no cubre: qué pasa cuando el sistema se equivoca con seguridad, quién revisa antes de que el resultado llegue al usuario, con qué datos se entrenó y cómo se mide si está funcionando. Estos cinco términos son los que más se usan y los que más se confunden. En ID One los tratamos como parte del trabajo de integridad de datos: la inteligencia artificial acelera, pero la revisión humana sigue siendo la que responde.
Alucinación
Respuesta inventada que el modelo entrega con total seguridad. El riesgo no es que se equivoque: es que suene igual de convincente cuando acierta y cuando no.
Usar la herramienta: PRD para productos con IA →Datos de entrenamiento
La información con que aprende el modelo. Si está sesgada, el resultado también lo estará, por muy buena que sea la técnica.
Usar la herramienta: PRD para productos con IA →Evaluación de modelo
Conjunto de casos de prueba con respuesta esperada, usado para medir si el modelo es suficientemente bueno antes de lanzar. Sin esto, “funciona bien” es una opinión.
Usar la herramienta: PRD para productos con IA →Humano en el circuito
Diseño en que una persona revisa o aprueba lo que el modelo propone antes de que tenga efecto. Su riesgo propio: que la revisión se vuelva trámite.
Usar la herramienta: PRD para productos con IA →PRD con IA
Documento de requisitos para una funcionalidad con modelo de por medio. Agrega cuatro preguntas: de qué datos se alimenta, qué es una respuesta correcta, quién decide y qué pasa si se equivoca.
Usar la herramienta: PRD para productos con IA →Otros temas del glosario
Ver el glosario completo (108 términos) → · Las 26 PM Tools gratuitas