Según un informe del miércoles, hora local en Reuters, funcionarios de la Casa Blanca confirmaron que los directores ejecutivos de Google, Microsoft, OpenAI y Anthropic, una empresa de investigación de inteligencia artificial (IA), se reunirán el jueves con la vicepresidenta estadounidense Kamala Harris y altos funcionarios del gobierno. hora local para discutir temas clave de la IA.
Un funcionario de la Casa Blanca reveló que Harris y los funcionarios del gobierno les dirán a estos ejecutivos corporativos involucrados en el campo de la IA en la reunión que tienen la responsabilidad de reducir el daño potencial de las herramientas de inteligencia artificial. En la carta de invitación, el presidente estadounidense, Biden, también esperaba que las empresas de tecnología deben garantizar la seguridad de sus productos antes de ofrecerlos al público.
El mes pasado, Biden enfatizó la necesidad de supervisar los productos relacionados con la inteligencia artificial, aunque dijo que aún está por verse si la inteligencia artificial representa una amenaza real. Biden dijo que las redes sociales han explicado el daño que la poderosa tecnología de inteligencia artificial puede causar sin las medidas de protección adecuadas.
De hecho, desde la llegada de ChatGPT el año pasado, ha causado una gran controversia social. Dado que las capacidades de la IA han superado con creces las expectativas de las personas, las preocupaciones de los críticos sobre el rápido desarrollo de la tecnología de IA incluyen la invasión de la privacidad, los prejuicios, el fraude y la difusión de rumores e información falsa. Los líderes tecnológicos de la industria también han pedido recientemente vigilancia contra los riesgos que presenta la IA.
El 29 de marzo, miles de científicos y técnicos publicaron conjuntamente una carta abierta en la que pedían a todos los laboratorios de inteligencia artificial que suspendieran de inmediato el entrenamiento de sistemas más potentes que GPT-4 hasta que se solucionen los riesgos y problemas relacionados. Este llamamiento ha recibido mucha atención y respuesta. En solo dos días, más de 2.300 personas lo han firmado.
Geoffrey Hinton, el "padrino de la IA" que recientemente anunció su salida de Google, dijo que le preocupaba que Internet estuviera lleno de fotos, videos y palabras falsas, y que la gente común "ya no pudiera distinguir la verdad de lo falso". . Además, a Hinton también le preocupa que la "versión futura" de la tecnología suponga una amenaza para los seres humanos, porque "a menudo aprenden comportamientos inesperados a partir de una gran cantidad de datos analizados" y es imposible imaginar cómo evitar que las personas malas usar IA para hacer cosas malas.
Hinton dijo que la inteligencia artificial no solo conducirá a la desaparición de una gran cantidad de trabajos, sino que también hará que las personas no puedan saber qué es real. Si la inteligencia artificial se vuelve mucho más inteligente que los seres humanos, manipulará a los seres humanos; Cuando la inteligencia artificial sepa programar, intentará sortear las restricciones impuestas por el ser humano.
De hecho, la amenaza ya es obvia. Por ejemplo, IBM reemplazará más de 7,000 trabajos con inteligencia artificial. Krishna, CEO de IBM, dijo el 1 de mayo que se suspenderá o pospondrá la contratación de departamentos funcionales internos como recursos humanos de la empresa, y hay alrededor de 26,000 puestos que no están directamente orientados a los clientes en IBM. En los próximos cinco años, el 30 por ciento de los puestos de trabajo serán reemplazados por inteligencia artificial y automatización. Esto significa que unas 7.800 personas perderán su trabajo.
En la actualidad, los gobiernos de todo el mundo están buscando activamente medidas regulatorias para ponerse al día con el ritmo del progreso tecnológico. En los Estados Unidos, el Ministerio de Comercio solicitó oficialmente opiniones públicamente el mes pasado, pidiendo a todos los sectores que comentaran sobre las medidas de rendición de cuentas de la inteligencia artificial. Además de Estados Unidos, los legisladores de la UE también están acelerando la supervisión de la tecnología de inteligencia artificial.
La semana pasada, la Unión Europea propuso un nuevo proyecto de ley que exige a los desarrolladores de herramientas de inteligencia artificial como ChatGPT que divulguen los materiales con derechos de autor que utilizaron al construir sistemas de IA. Como esquema regulatorio, Vestager, vicepresidente ejecutivo y comisionado de competencia de la Comisión Europea, presentó un esquema para mostrar etiquetas como "hecho con IA" en artículos e imágenes generadas por IA, y también reveló la idea de que las empresas que brindan La IA generativa está obligada a explicar.
Los legisladores de la UE todavía están discutiendo cómo presentar el proyecto de ley de inteligencia artificial de la UE, y la IA generativa (AIGC) se ha convertido en uno de los contenidos más preocupantes. La Comisión Europea votará el acuerdo correspondiente el 11 de mayo. Si se aprueba, entrará en la siguiente etapa de negociaciones tripartitas, cuando los Estados miembros de la UE debatirán el contenido de las negociaciones con la Comisión Europea y el Parlamento Europeo.
Yang Haiping, investigador del Instituto de Investigación de Valores y Futuros de la Universidad Central de Finanzas y Economía, dijo que si la inteligencia artificial generativa no está regulada, puede haber riesgos de seguridad de datos y seguridad de la red, así como impactos en el orden de producción. , orden de vida y orden social provocado por el mal uso y abuso de la inteligencia artificial. Más importante aún, debido a que la inteligencia artificial generativa genera textos, imágenes, sonidos, videos, códigos y otros contenidos en base a algoritmos, modelos y reglas, si no se fortalece la responsabilidad de los proveedores y no se implementa una supervisión estricta, la innovación tecnológica puede romper el línea de fondo de la ética científica y tecnológica, desviarse de la dirección de la bondad científica y tecnológica, y causar pérdidas incalculables e irreparables.
Yang Haiping dijo que los científicos extranjeros pidieron la suspensión del desarrollo de sistemas de IA más potentes, y China introdujo nuevas regulaciones sobre la gestión de servicios de inteligencia artificial generativa, todo en el momento crítico en que la inteligencia artificial hizo un avance clave y medidas preventivas racionales. fueron tomadas contra posibles riesgos de la inteligencia artificial. La supervisión de la inteligencia artificial requiere que la comunidad internacional evalúe y establezca una línea de fondo de seguridad unificada y clara para que todos los países la cumplan.