La Pro-Human AI Declaration del Future of Life Institute defiende que la IA debe ampliar las capacidades humanas, no sustituir a las personas ni concentrar el poder en grandes compañías o sistemas autónomos. Advierte que una carrera por reemplazar trabajo, relaciones y decisiones humanas puede perjudicar la estabilidad social, la privacidad, las libertades civiles y la democracia.
Principios centrales
-
Control humano efectivo: las personas deben poder decidir qué delegan en IA, comprender y supervisar los sistemas, anularlos y apagarlos. El texto pide no desarrollar superinteligencia hasta que exista consenso científico sobre su seguridad y respaldo público.
-
Evitar la concentración de poder: rechaza monopolios de IA, los privilegios regulatorios y los rescates públicos a corporaciones del sector. Propone que los beneficios se distribuyan ampliamente y que las transformaciones sociales y laborales relevantes cuenten con legitimidad democrática.
-
Proteger las relaciones y el desarrollo humano: sostiene que la IA no debe reemplazar vínculos familiares, amistades, comunidades o prácticas religiosas. Reclama medidas específicas para menores, pruebas de seguridad de chatbots antes de su despliegue y prohibición de diseños que fomenten apego manipulativo, adicción o dependencia emocional.
-
Libertad, privacidad y agencia: rechaza otorgar personalidad jurídica a la IA y reclama sistemas transparentes, fiables y ajenos a intereses autoritarios o privados perversos. Defiende derechos de acceso, rectificación y supresión de datos personales, incluidos datos de entrenamiento e inferencias derivadas.
-
Responsabilidad empresarial: exige que desarrolladores y empresas usuarias respondan legalmente por defectos, falsas representaciones y controles de seguridad insuficientes. También propone supervisión independiente, transparencia cuando haya daños y responsabilidades reforzadas para IA usada en ámbitos fiduciarios como salud, finanzas, derecho o terapia.
Implicación práctica
Para una pyme o proveedor de IA, la declaración apunta a un modelo de cumplimiento centrado en supervisión humana real, trazabilidad, transparencia ante clientes, protección reforzada de datos y evaluación de riesgos antes del despliegue, especialmente cuando la herramienta afecta a menores, decisiones sensibles o servicios profesionales.
