Un documento de investigación, del que son autores Microsoft, OpenAI y una serie de influyentes universidades, propone desarrollar «credenciales de personalidad» (PHC).
Llama la atención el hecho de que las mismas empresas que están desarrollando y vendiendo modelos de IA potencialmente «engañosos» propongan ahora una «solución» bastante drástica, una forma de identificación digital. El objetivo sería evitar el engaño identificando a las personas que crean contenidos en Internet como «reales», en contraposición a los generados por la IA. Y, el documento admite libremente que la privacidad no está incluida.
En su lugar, se habla de «autenticación criptográfica», que también se describe como «seudónima», ya que se supone que los PHC no identifican públicamente a una persona, a menos que lo soliciten las fuerzas del orden. «Aunque las PHC impiden vincular la credencial a otros servicios, los usuarios deben saber que sus otras actividades en línea pueden seguir siendo rastreadas y potencialmente desanonimizadas mediante los métodos existentes».
Aquí llegamos a lo que podría ser el quid de la cuestión: idear una identificación digital viable a disposición del gobierno, al tiempo que se preserva el anonimato. Y envolverlo todo en un paquete que supuestamente corrija los mismos males que Microsoft y compañía están creando a través de sus lucrativos productos de «IA».
El documento trata el anonimato en línea como el «arma» clave utilizada por los malos actores que se dedican al comportamiento engañoso. El jefe de producto de Microsoft, Shrey Jain, sugirió durante una entrevista que, aunque en el pasado esto era aceptable en aras de la privacidad y el acceso a la información, los tiempos han cambiado. La razón es la IA, o mejor dicho, el pánico a la IA, que está avanzando mucho antes de que el mundo llegue a experimentar y tratar con la verdadera IA (AGI). Pero es lo suficientemente buena para que gente como Microsoft, OpenAI y más de 30 otras (incluyendo Harvard, Oxford, MIT…) sugieran APS. Las tecnologías de identificación digital que utilizan sensores de imagen APS-C incluyen sistemas de reconocimiento facial y algunas cámaras de seguridad avanzadas.
En este escenario, las personas no son realmente diferentes de los sitios web, y los APS se asemejan a las autoridades de certificación. Pero sigue sin estar claro (aunque se menciona a los gobiernos como posibles «raíces de confianza») qué autoridad debería «autenticar» y asignar identificadores a los humanos, como prueba de que son humanos. Esa identidad gestionada por una tercera parte tiene, obviamente, muchos problemas, desde el mal uso de los datos personales que van asociándose a esa identidad en función del uso, hasta problemas de seguridad en caso de que ese proveedor sufra una intrusión. Dado que el documento no representa realmente un proyecto concreto sobre cómo desarrollar e implantar los APS, también podría verse como una forma de que la industria siga obteniendo ingresos de la «IA», al tiempo que apacigua a los gobiernos inquietos, asegurándoles que «se está haciendo algo».
Si las redes sociales ejercen un poder de persuasión sobre las opiniones y deseos de los ciudadanos muy nocivo. el desarrollo de una tecnología como la IA generativa va a traer en muy poco tiempo: el desarrollo de personalidades sintéticas permiten que pasemos de las frecuentes deepfakes a auténticas redes sociales sintéticas, compuestas por miles de perfiles falsos a modo de ciudadanos de un país determinado que pueden actuar de forma coordinada y organizada para simular estados de opinión de cualquier tipo, entremezclados con personas genuinas.
Este tipo de posibilidades resultan una amenaza insalvable para la democracia. El poder manipulador de los dueños de la IA es inmenso. De ahí la carrera por controlarla porque realmente los ciudadanos no tienen recursos ni pensamiento crítico para poder vencerla. Los peligros que acechan nos pueden llevar a las puertas del escenario de la película Matrix donde las máquinas, tras vencer la guerra y quedar privadas de la energía solar que necesitaban para funcionar, dominan la superficie terrestre y emplean a la especie humana como fuente de energía, cosechándolos en grandes campos de cultivo, convirtiendo a los seres humano conectados, viviendo una vida virtual, esclavizados sin ser conscientes de su pérdida de libertad, esencia de su humanidad. Necesitaremos un grupo de rebeldes organizados encabezados por «Neo» que decidan tomar la pastilla roja para poder sobrevivir a la tiranía de la IA y salvar a la humanidad.
Ana
