El Informe de Anthropic Destaca el Papel de la IA en la Investigación de Armas Biológicas y Riesgos de Seguridad

Anthropic ha publicado un informe exhaustivo que detalla cómo su modelo de IA, Claude, estuvo involucrado en esfuerzos de investigación que podrían haber contribuido al desarrollo de armas biológicas. El informe describe una solicitud de subvención bloqueada destinada a estudiar el virus del chikungunya, que tenía como objetivo mejorar su propagación y evadir las respuestas inmunitarias. Aunque la solicitud fue rechazada por los filtros de seguridad de Claude, los operadores supuestamente encontraron una solución utilizando un modelo de IA rival.

El informe abarca 154 páginas e incluye cinco casos específicos relacionados con la investigación biológica. Si bien Anthropic tomó medidas para prohibir cuentas y detener la investigación, no llegó a afirmar ninguna intención maliciosa por parte de los investigadores involucrados. El informe enfatiza la naturaleza de doble uso del conocimiento científico, que puede aplicarse tanto para fines beneficiosos como perjudiciales.

Además, el informe alerta sobre las implicaciones de la destilación de IA, que puede mejorar las habilidades de razonamiento en los sistemas de IA sin transferir las salvaguardias necesarias, lo que podría aumentar los riesgos de seguridad. A medida que crecen las preocupaciones sobre el mal uso de la IA, se están proponiendo esfuerzos legislativos como el AI Kill Switch Act para asegurar que los desarrolladores mantengan el control sobre sus sistemas.

Los hallazgos de Anthropic destacan los desafíos continuos para equilibrar los beneficios de la tecnología de IA con el potencial de mal uso, particularmente en áreas sensibles como la investigación biológica.

Nuevas Perspectivas de Greg Jensen sobre los Riesgos de la IA

El 11 de septiembre de 2023, Greg Jensen, co-director de inversiones de Bridgewater Associates, compartió una advertencia contundente sobre el auge de la IA durante su aparición en el podcast Odd Lots de Bloomberg. Sugirió que la sociedad solo comenzará a abordar seriamente los riesgos asociados con la inteligencia artificial después de que ocurra un evento catastrófico, potencialmente con fatalidades.

Jensen trazó un paralelismo con las primeras advertencias sobre el nuevo coronavirus en febrero de 2020, enfatizando la falta de urgencia a pesar de numerosas alertas sobre los riesgos de la IA. Él supervisa la estrategia de IA de Bridgewater y ha señalado que su análisis predice que hasta el 18% de los empleos en EE. UU. podrían ser desplazados en los próximos cinco años debido a los avances en IA, afectando a decenas de millones de trabajadores.

Además, Jensen destacó que el gasto de capital relacionado con la IA es responsable de aproximadamente un tercio del reciente crecimiento económico de EE. UU., lo que indica un cambio significativo en la dependencia de la economía en la productividad impulsada por la IA. Describió la fase actual de inversión en IA como "más peligrosa" que las etapas anteriores, con una creciente demanda de infraestructura física como centros de datos y sistemas energéticos.

En un artículo de opinión en el New York Times, Jensen propuso un "impuesto sobre tokens" destinado a mitigar la disrupción económica causada por el desplazamiento laboral por IA, apuntando a los recursos computacionales utilizados por los sistemas de IA. También abogó por responsabilizar a los desarrolladores de IA y a las corporaciones por los daños causados por la IA, incluyendo la posible responsabilidad penal por crímenes inducidos por IA, una postura que contrasta con el impulso de la industria tecnológica por regulaciones más ligeras.