Datos Org
BlogJune 3, 2026

Ética de la IA para organizaciones sociales: 7 preguntas antes de adoptar ChatGPT o Claude

Fundación Datos Org
Hay un entusiasmo comprensible alrededor de la inteligencia artificial en el sector social. Las herramientas son poderosas, los casos de uso son reales, y los beneficios potenciales para organizaciones con recursos limitados son enormes. Este blog ha documentado muchos de ellos. Pero el entusiasmo sin reflexion puede crear problemas serios. Y las organizaciones sociales, que trabajan con poblaciones vulnerables y con información sensible, tienen una responsabilidad adicional de adoptar estas tecnologias de forma thoughtful. El 76% de las nonprofits no tiene ninguna política de gobernanza de IA (TechSoup Benchmark 2025). Eso no significa que no deban usar IA. Significa que la mayoría lo esta haciendo sin pensar en las consecuencias. Esta guía propone 7 preguntas que tu organización deberia responder antes (o mientras) adopta herramientas como ChatGPT o Claude. Esta es la pregunta más urgente y la menos discutida. Cuando alguien en tu equipo escribe en ChatGPT.com: "Esta es la situación de Maria, beneficiaria del programa, madre soltera, victima de violencia intrafamiliar, con el siguiente historial de atención...", esa información esta siendo enviada a los servidores de OpenAI en Estados Unidos. OpenAI y Anthropic tienen políticas de privacidad que limitan el uso de esa información. En los planes gratuitos y basicos, los datos pueden usarse para mejorar los modelos. En planes de pago con configuracion específica (ChatGPT Team, Claude Team) hay mayor protección. Pero incluso con las mejores políticas, los datos han salido del control de tu organización. Para responder esta pregunta:
  • Haz una auditoria de como tu equipo esta usando actualmente las herramientas de IA
  • Identifica si alguien esta ingresando información personal identificable de beneficiarios
  • Define una política clara: que tipo de información NUNCA debe ingresarse a herramientas de IA externas
Regla práctica: Trata las herramientas de IA como tratarias una conversacion con un externo. Información que no compartirias con un consultor externo, no la compartas con ChatGPT. Los modelos de lenguaje aprenden de datos que reflejan los sesgos del mundo. Eso significa que pueden reproducir estereotipos sobre genero, raza, clase social, origen etnico y muchas otras variables. Para una organización que usa IA para clasificar solicitudes, generar evaluaciones o priorizar casos, estos sesgos no son teoricos. Un sistema que sistematicamente sube la urgencia de casos de personas con mayor nivel educativo, o que describe con lenguajes más negativos a ciertas etnias, esta reproduciendo discriminacion, aunque sea involuntariamente. Para responder esta pregunta:
  • Si usas IA para tomar o apoyar decisiones que afectan a beneficiarios, prueba el sistema con casos que varien sistematicamente en genero, zona geografica, nivel educativo y etnia. ¿Los resultados son consistentes y justos?
  • Involucra a representantes de las comunidades que sirves en la revision de los outputs del sistema
  • Mantiem siempre revision humana para decisiones que afecten directamente a personas
Si usas IA para responder preguntas de beneficiarios, para generar contenido que les llega, o para analizar información sobre ellos, ¿lo saben? La transparencia no requiere explicaciones técnicas complicadas. Puede ser tan simple como: "Nuestro equipo usa herramientas de inteligencia artificial para ayudarnos a responder preguntas más rápido y preparar materiales. Si tienes alguna pregunta sobre esto, puedes hablar directamente con [nombre del coordinador]." Pero la decision de ser o no transparentes deberia ser consciente, no una omision por descuido. Considera especialmente:
  • Si usas un chatbot de IA para atención inicial, ¿el beneficiario sabe que no esta hablando con un humano?
  • Si generas contenido con IA que parece escrito por una persona real de tu equipo, ¿eso es autentico?
  • ¿Hay poblaciones específicas que tu atienes (ninos, victimas, comunidades indigenas) para las que la transparencia sobre el uso de IA tiene implicaciones adicionales de consentimiento?
En la mayoría de organizaciones, nadie. Las herramientas de IA se adoptan organicamente, cada persona las usa como puede, y no hay nadie que revise si el uso colectivo es coherente, seguro y ético. Esto no requiere contratar un "Director de IA". Puede ser una persona existente del equipo (idealmente alguien con interés en tecnología) a quien se le asigna formalmente esta responsabilidad, con tiempo dedicado. Las tareas basicas de gobernanza de IA en una ONG pequeña:
  • Mantener un inventario de las herramientas de IA que usa la organización y para que
  • Revisar periodicamente las políticas de privacidad de esas herramientas cuando se actualizan
  • Establecer y comunicar las reglas de uso aceptable
  • Capacitar al equipo cuando se adoptan herramientas nuevas
  • Ser el punto de contacto si alguien tiene dudas o identifica un problema
Los modelos de lenguaje cometen errores. Pueden inventar cifras, distorsionar hechos, mal-atribuir citas y generar texto convincente pero incorrecto. En jerga técnica esto se llama "hallucination". Para la mayoría de tareas (primer borrador de un correo, ideas para redes sociales, estructura de un documento), un error de IA tiene consecuencias menores. Pero para propuestas de financiamiento, documentos de advocacy con datos, o materiales de formacion para beneficiarios, un dato incorrecto puede tener consecuencias significativas. Para responder esta pregunta:
  • Define para cada tipo de uso el nivel de verificación requerido
  • Para documentos con datos facticos (propuestas, informes, documentos de posicion): verificación obligatoria de cada dato contra la fuente original
  • Para contenido creativo (redes sociales, comunicados generales): revision de tono y coherencia con los valores de la organización, verificación de datos si los incluye
  • Nunca publiques o envies contenido generado por IA sin que al menos una persona humana lo haya leido
Existe el riesgo de que la adopción de IA genere una dependencia que debilite la capacidad interna de la organización. Si ChatGPT escribe todos los informes, ¿el equipo esta desarrollando la habilidad de contar historias de impacto? Si Claude redacta todas las propuestas, ¿la organización mantiene la capacidad de articular su propia propuesta de valor? Esto no es un argumento contra usar IA. Es un argumento para usarla conscientemente, como amplificador de capacidades existentes, no como reemplazo de capacidades que la organización todavia necesita desarrollar. Preguntas prácticas:
  • ¿Hay tareas en las que la práctica humana (aunque sea menos eficiente) genera capacidades organizacionales criticas?
  • ¿El equipo entiende lo que la IA genera, o simplemente lo acepta y reenvisa?
  • ¿La IA esta liberando tiempo para trabajo de mayor valor, o simplemente produciendo más volumen del mismo tipo de trabajo?
Una política no tiene que ser un documento de 20 paginas. Para la mayoría de organizaciones pequeñas, una página es suficiente. Pero tiene que existir, estar escrita, y el equipo tiene que conocerla. Los elementos minimos de una política de uso de IA para ONGs:
  1. Herramientas aprobadas: Lista de herramientas de IA que el equipo puede usar y para que
  2. Información prohibida: Que tipos de datos NUNCA deben ingresarse a herramientas de IA (datos personales de beneficiarios, información financiera sensible, etc.)
  3. Revision obligatoria: Para que tipos de contenido es obligatorio que un humano revise antes de usar
  4. Atribucion: Como se indica cuando un contenido fue generado con apoyo de IA
  5. Responsable de gobernanza: Quien responde las preguntas sobre uso de IA
  6. Actualización: Con que frecuencia se revisa la política (recomendado: cada 6 meses, dado el ritmo de cambio del sector)
Estas siete preguntas no tienen respuestas perfectas, y la mayoría de organizaciones van a descubrir al responderlas que tienen trabajo por hacer. Eso esta bien. El objetivo no es paralizarse esperando tener todo resuelto antes de adoptar IA. El objetivo es adoptar con intencionalidad, con mecanismos de revision, y con la mirada puesta en proteger a las personas que sirves. La IA es una herramienta extraordinariamente poderosa para el bien social. Usarla de forma ética es parte de ser una organización que se toma en serio su misión. En Fundación Datos Org acompañamos a organizaciones en el diseño de políticas de gobernanza de datos e IA adaptadas a su contexto específico. Si quieres apoyo en este proceso, regístrate en nuestra plataforma.
Share this post: