Por Alise Maripuu. Bay City News.
Una multitud de manifestantes se reunió el martes por la noche frente a la sede de OpenAI en San Francisco para condenar el reciente acuerdo de la compañía con el Departamento de Defensa de Estados Unidos.
Los manifestantes corearon consignas por megáfono mientras sostenían carteles que decían “Sam Altman te vigila” y “Renuncia a GPT” mientras los empleados de OpenAI dentro del rascacielos se preparaban para finalizar su jornada. Altman es el director ejecutivo de OpenAI.
“Lo que ha sucedido recientemente con su contrato con el Pentágono es absolutamente imperdonable”, declaró Rachel Zubrin, asistente a la manifestación, en una entrevista. “A estas alturas, no queda más que movilizar a la gente para que rindan cuentas”.
OpenAI, la empresa de inteligencia artificial detrás del chatbot de IA ChatGPT, anunció durante el fin de semana que había firmado un acuerdo con el Departamento de Defensa para utilizar su tecnología de IA en los sistemas clasificados del Pentágono.
“Creemos que el ejército estadounidense necesita sin duda modelos de IA sólidos para apoyar su misión, especialmente ante las crecientes amenazas de adversarios potenciales que integran cada vez más tecnologías de IA en sus sistemas”, declaró OpenAI en un comunicado. “Un futuro prometedor requerirá una colaboración real y profunda entre el gobierno y los laboratorios de IA”.
El acuerdo se produjo poco después de que Anthropic, la empresa de inteligencia artificial que anteriormente trabajaba para el Departamento de Defensa, rechazara una oferta para modificar su contrato y permitir usos adicionales de su tecnología de inteligencia artificial en el Pentágono.
Estos cambios propuestos, según declaró el director ejecutivo de Anthropic, Dario Amodei, podrían permitir que sus sistemas de inteligencia artificial se utilicen para fines como la vigilancia doméstica masiva y el desarrollo de armas totalmente autónomas.
“No podemos acceder a su solicitud en conciencia”, declaró Amodei. “En un reducido grupo de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos. Algunos usos, además, simplemente exceden los límites de lo que la tecnología actual puede hacer de forma segura y fiable”.
La decisión de OpenAI de intervenir y aceptar un contrato con el Pentágono ha provocado una reacción violenta, así como el movimiento “QuitGPT” para boicotear el uso de los chatbots de OpenAI.
Los manifestantes estaban preocupados por lo que Amodei describió en su declaración: que la tecnología de OpenAI podría usarse para crear armas totalmente autónomas, así como para realizar una vigilancia generalizada de los estadounidenses.
“Este es el futuro de la guerra en la que viviremos y el futuro del país en el que viviremos ahora mismo”, dijo Zubrin. “No sé ustedes, pero no quiero que el Gran Hermano, en esencia, vigile masivamente a todo el mundo en todo momento”.
OpenAI ha declarado que el contrato no permite que sus sistemas de IA se utilicen para la vigilancia doméstica masiva ni para crear armas totalmente autónomas. La compañía anunció el lunes que modificó su contrato con el Pentágono para incluir salvaguardias adicionales.
“Dos de nuestros principios de seguridad más importantes son la prohibición de la vigilancia masiva nacional y la responsabilidad humana en el uso de la fuerza, incluyendo los sistemas de armas autónomas”, declaró Altman el viernes en una publicación en redes sociales. “El Departamento de Guerra coincide con estos principios, los refleja en la legislación y las políticas, y los incorporamos en nuestro acuerdo”.
Pero el nuevo lenguaje del contrato no ha aliviado las preocupaciones de todos, incluida la de Niki Dupuis, una residente de San Francisco que participó en la protesta.
“No he visto nada en el acuerdo que firmaron con el Departamento de Guerra que me dé la seguridad de que realmente están estableciendo límites tan estrictos como los de Anthropic”, declaró Dupuis en una entrevista. “Personalmente, todavía no estoy seguro”.
Los manifestantes se congregaron a pesar de que los fuertes vientos se llevaron varios carteles y de que los guardias de seguridad vigilaban la seguridad de la propiedad de OpenAI. Los manifestantes también cubrieron la acera con frases escritas con tiza, como “Tecnología al servicio de la humanidad, no de la guerra” y “Sin robots asesinos”.
“Es uno de los problemas más cruciales de nuestro tiempo”, dijo Zubrin. “Quiero luchar contra esto, y si tú también quieres hacerlo, te recomiendo encarecidamente que te unas a nosotros”.
You may also be interested in: One in eight teenagers and young adults use AI chatbots for mental health, according to a study.
