En una actualización reciente de sus pautas éticas, una empresa tecnológica de renombre ha eliminado su compromiso anterior de no emplear la inteligencia artificial (IA) en aplicaciones vinculadas a armas o vigilancia que puedan violar normas internacionales o derechos humanos. Hasta hace poco, la política de la compañía impidía el desarrollo de tecnologías que pudieran generar daño en general, incluyendo armamento, alineándose con principios internacionales de derechos humanos.
Este cambio ha provocado variadas reacciones, tanto en el interior como en el exterior de la compañía. Algunos trabajadores han manifestado su preocupación en foros internos, cuestionando el rumbo que está tomando la empresa. Un ejemplo de ello es la plataforma interna Memegen, donde se han compartido memes y comentarios críticos sobre la decisión, reflejando preocupaciones acerca del uso de la IA en contextos militares y de vigilancia.
La revisión de las pautas se da en un contexto de creciente competencia mundial por el dominio de la IA. Los directivos de la empresa sostienen que las democracias deben encabezar el desarrollo de la IA, guiándose por valores esenciales como la libertad, la igualdad y el respeto a los derechos humanos. Asimismo, subrayan la importancia de la cooperación entre empresas, gobiernos y organizaciones afines que compartan estos valores para desarrollar una IA que resguarde a las personas, impulse el crecimiento global y apoye la seguridad nacional.
Esta decisión representa un cambio importante respecto a la postura asumida en 2018, cuando la compañía prohibió el uso de su tecnología de IA en armamento luego de protestas internas por un contrato con el Departamento de Defensa de Estados Unidos para analizar videos de drones. Desde aquel entonces, la tecnología ha progresado significativamente, y la IA se ha transformado en una herramienta omnipresente en numerosas aplicaciones, desde teléfonos móviles hasta internet.
Al eliminar la prohibición, la empresa se alinea con otras del sector tecnológico que permiten ciertas aplicaciones militares de sus tecnologías. Por ejemplo, desarrolladores de IA como Meta y OpenAI han permitido que sus tecnologías se utilicen en contextos militares. Esta tendencia refleja un replanteamiento de las políticas corporativas en respuesta a las dinámicas geopolíticas y los avances tecnológicos actuales.
La eliminación de la prohibición alinea a la empresa con otras en el sector tecnológico que permiten ciertas aplicaciones militares de sus tecnologías. Por ejemplo, desarrolladores de IA como Meta y OpenAI han permitido el uso de sus tecnologías en contextos militares. Esta tendencia refleja una reevaluación de las políticas corporativas en respuesta a las dinámicas geopolíticas y los avances tecnológicos actuales.
Sin embargo, esta decisión también ha suscitado preocupaciones entre expertos y defensores de la ética en la IA. Algunos argumentan que el desarrollo de sistemas de armas autónomas y herramientas de vigilancia impulsadas por IA podría tener implicaciones éticas y de derechos humanos significativas. La comunidad científica ha advertido sobre los riesgos asociados con el desarrollo de armas autónomas y ha abogado por un sistema de control global para mitigar posibles amenazas.