1. ¿Que datos de beneficiarios podrian terminar en los servidores de OpenAI o Anthropic?
- Haz una auditoria de como tu equipo esta usando actualmente las herramientas de IA
- Identifica si alguien esta ingresando información personal identificable de beneficiarios
- Define una política clara: que tipo de información NUNCA debe ingresarse a herramientas de IA externas
2. ¿Los sesgos del modelo podrian afectar a las personas que servimos?
- Si usas IA para tomar o apoyar decisiones que afectan a beneficiarios, prueba el sistema con casos que varien sistematicamente en genero, zona geografica, nivel educativo y etnia. ¿Los resultados son consistentes y justos?
- Involucra a representantes de las comunidades que sirves en la revision de los outputs del sistema
- Mantiem siempre revision humana para decisiones que afecten directamente a personas
3. ¿Hemos sido transparentes con nuestros beneficiarios sobre el uso de IA?
- Si usas un chatbot de IA para atención inicial, ¿el beneficiario sabe que no esta hablando con un humano?
- Si generas contenido con IA que parece escrito por una persona real de tu equipo, ¿eso es autentico?
- ¿Hay poblaciones específicas que tu atienes (ninos, victimas, comunidades indigenas) para las que la transparencia sobre el uso de IA tiene implicaciones adicionales de consentimiento?
4. ¿Quien en el equipo es responsable de la gobernanza de IA?
- Mantener un inventario de las herramientas de IA que usa la organización y para que
- Revisar periodicamente las políticas de privacidad de esas herramientas cuando se actualizan
- Establecer y comunicar las reglas de uso aceptable
- Capacitar al equipo cuando se adoptan herramientas nuevas
- Ser el punto de contacto si alguien tiene dudas o identifica un problema
5. ¿Como verificamos la precisión de los outputs antes de usarlos?
- Define para cada tipo de uso el nivel de verificación requerido
- Para documentos con datos facticos (propuestas, informes, documentos de posicion): verificación obligatoria de cada dato contra la fuente original
- Para contenido creativo (redes sociales, comunicados generales): revision de tono y coherencia con los valores de la organización, verificación de datos si los incluye
- Nunca publiques o envies contenido generado por IA sin que al menos una persona humana lo haya leido
6. ¿Estamos construyendo dependencia o capacidad?
- ¿Hay tareas en las que la práctica humana (aunque sea menos eficiente) genera capacidades organizacionales criticas?
- ¿El equipo entiende lo que la IA genera, o simplemente lo acepta y reenvisa?
- ¿La IA esta liberando tiempo para trabajo de mayor valor, o simplemente produciendo más volumen del mismo tipo de trabajo?
7. ¿Nuestra política de uso de IA esta documentada y es conocida por todo el equipo?
- Herramientas aprobadas: Lista de herramientas de IA que el equipo puede usar y para que
- Información prohibida: Que tipos de datos NUNCA deben ingresarse a herramientas de IA (datos personales de beneficiarios, información financiera sensible, etc.)
- Revision obligatoria: Para que tipos de contenido es obligatorio que un humano revise antes de usar
- Atribucion: Como se indica cuando un contenido fue generado con apoyo de IA
- Responsable de gobernanza: Quien responde las preguntas sobre uso de IA
- Actualización: Con que frecuencia se revisa la política (recomendado: cada 6 meses, dado el ritmo de cambio del sector)
Estas siete preguntas no tienen respuestas perfectas, y la mayoría de organizaciones van a descubrir al responderlas que tienen trabajo por hacer. Eso esta bien. El objetivo no es paralizarse esperando tener todo resuelto antes de adoptar IA. El objetivo es adoptar con intencionalidad, con mecanismos de revision, y con la mirada puesta en proteger a las personas que sirves.
La IA es una herramienta extraordinariamente poderosa para el bien social. Usarla de forma ética es parte de ser una organización que se toma en serio su misión.
En Fundación Datos Org acompañamos a organizaciones en el diseño de políticas de gobernanza de datos e IA adaptadas a su contexto específico. Si quieres apoyo en este proceso, regístrate en nuestra plataforma.