La Conferencia del Bund comienza hoy y la IA generativa y los grandes modelos se han convertido en "temas principales"

Fuente: Prensa asociada financiera

Autor: Huang Xinyi

La Conferencia Inclusión·The Bund 2023 se inauguró oficialmente el 7 de septiembre en el Parque Mundial de Exposiciones Huangpu de Shanghai. Esta conferencia de tres días con el tema "Tecnología y creación de un futuro sostenible" acogerá a cerca de 20 académicos de las dos academias, ganadores del Premio Nobel y del Premio Turing, y más de 500 líderes y expertos en tecnología influyentes de todo el mundo. aquí para traer una colisión de pensamiento entre ciencia y tecnología, humanidades e industria.

La conferencia cuenta con 1 foro principal, 36 foros de opinión, 8.000 metros cuadrados de exposición de ciencia y tecnología, 3.000 metros cuadrados de mercado verde y celebró por primera vez una feria de captación de talentos en ciencia y tecnología.

En la ceremonia de apertura, el vicealcalde de Shanghai, Xie Dong, dijo que durante los últimos tres años, Shanghai ha seguido promoviendo la construcción de un centro financiero internacional y un centro de innovación científica y tecnológica y ha logrado resultados positivos. El Centro de Innovación Científica y Tecnológica de Shanghai está pasando de formar un sistema marco básico a realizar funciones centrales. Shanghai hará mayores esfuerzos para promover el centro de tecnología financiera de influencia mundial a un nivel superior e inyectar nuevo impulso al desarrollo de Shanghai como centro financiero internacional.

Zhang Renhe, académico de la Academia de Ciencias de China y vicepresidente de la Universidad de Fudan, señaló que La Inteligencia Científica (IA para la Ciencia) se ha convertido en una dirección clave del desarrollo de la inteligencia artificial, promoviendo la investigación interdisciplinaria y estimulando avances innovadores. Acelerar la integración profunda de la innovación tecnológica y el cambio industrial, y promover la transformación y modernización industrial. "La inteligencia científica nacional también se está desarrollando rápidamente, y una gran cantidad de grandes modelos en el campo científico han surgido uno tras otro, pero aún están en su infancia", dijo Zhang Renhe, ante la llegada de la "IA". "era", "ir solo" ya no es posible. Para adaptarse a la innovación científica y tecnológica en la era de la gran ciencia, la mayor ventaja de realizar "investigación científica organizada" radica en el diseño y la construcción de una gran plataforma.

Las capacidades generales de los modelos grandes permiten que la IA se aplique a diversos escenarios de la producción y la vida humana, lo que se puede decir que es "generalizado", lo que también trae consigo nuevos problemas de seguridad y privacidad. ¿Cómo resolver este peligro oculto? He Jifeng, un Académico de la Academia China de Ciencias, cree que ** modelos grandes El principal problema de seguridad es la recopilación, el uso y la divulgación de información personal sin consentimiento. Pueden surgir problemas de privacidad durante el proceso de capacitación o durante el uso, y la capacidad de generación de modelos grandes diversifica las formas de "fuga de privacidad", lo que dificulta la protección de la privacidad **.

"Para abordar estos problemas, necesitamos tecnología de alineación de modelos grandes", dijo He Jifeng, "Alineación" significa que los objetivos del sistema sean consistentes con los valores humanos, de modo que se ajuste a los intereses y expectativas del diseñador. y no produce consecuencias dañinas inesperadas. "Si la inteligencia artificial es considerada como Sun Wukong en Journey to the West, la 'alineación' es la maldición cada vez más estricta de Tang Monk. Con la maldición cada vez más estricta, podemos garantizar que la tecnología no usará sus habilidades para hacer nada malo".

Sin embargo, la tecnología de alineación también enfrenta desafíos. En primer lugar, la base de la alineación es que los valores humanos son diversos y cambian dinámicamente, y es necesario garantizar que el gran modelo sirva y sea amable con las personas; en segundo lugar, los objetivos de la utilidad e inocuidad del El modelo grande no es completamente consistente**. Cómo corregir errores de manera efectiva y establecer una "maldición de ajuste" para modelos grandes también son desafíos. Como resultado, alinear la tecnología se ha convertido en un vertiginoso estudio interdisciplinario que pone a prueba no sólo la tecnología sino también la cultura.

He Jifeng presentó que El aprendizaje por refuerzo por retroalimentación es una forma técnica de lograr la alineación. Actualmente hay dos formas: una es dar diferentes señales de recompensa al modelo a través de retroalimentación manual para guiar la salida de alta calidad del modelo; la otra forma es pre- Al proporcionar principios claros para modelos grandes, el sistema entrena automáticamente el modelo para proporcionar una clasificación inicial de todos los resultados de salida generados. "Esto significa que no sólo los sistemas inteligentes deben estar alineados con los valores humanos, sino que los métodos de entrenamiento humano también deben estar alineados con los valores", dijo He Jifeng.

Muchos analistas de la industria señalan que la inteligencia artificial generativa liderada por modelos grandes es una nueva tecnología poderosa que tiene el potencial de cambiar la economía global. Ni Yili, presidente de McKinsey China y socio principal de McKinsey Global, señaló que el impacto positivo de la IA generativa en la economía global puede alcanzar hasta 7,9 billones de dólares, mientras que la IA en general puede alcanzar los 25 billones de dólares. La IA generativa tendrá un impacto en varias industrias, entre las cuales la alta tecnología, el comercio minorista y la banca se ubicarán entre las tres principales.

El avance de los modelos grandes se considera el "momento iPhone" de la inteligencia artificial, que provoca cambios industriales en la era de la IA. El presidente y director ejecutivo de Ant Group, Jing Xiandong, citó una frase de la película "Oppenheimer", así como la invención de la bomba atómica "no es un arma nueva, sino un mundo nuevo", la aparición de modelos grandes "no es una tecnología nueva". Pero un mundo nuevo." Dijo que el enorme impacto del lanzamiento del iPhone está lejos de ser tan simple como que una pantalla grande se convierta en una pantalla pequeña, sino que la pantalla pequeña permite a los usuarios estar "siempre en línea"**, promoviendo así en gran medida el desarrollo de personas y servicios, personas y bienes de toda la conexión. Jing Xiandong también reveló que el modelo grande que Ant lanzará el 8 de septiembre es un diseño de pila completa y puramente de desarrollo propio.