Сегодня открывается конференция Бунда, и «главными темами» стали генеративный искусственный интеллект и большие модели.

Источник: Финансовое агентство Ассошиэйтед Пресс.

Автор: Хуан Синьи

Конференция Inclusion Bund 2023 официально открылась 7 сентября в Шанхайском всемирном выставочном парке Хуанпу. В этой трехдневной конференции на тему «Технологии и создание устойчивого будущего» примут участие около 20 академиков двух академий, лауреатов Нобелевской премии и премии Тьюринга, а также более 500 влиятельных технологических лидеров и экспертов со всего мира. здесь, чтобы вызвать столкновение идей науки и техники, гуманитарных наук и промышленности.

Конференция включает в себя 1 основной форум, 36 форумов мнений, 8000 квадратных метров выставки науки и техники, 3000 квадратных метров зеленого рынка, а также впервые провела ярмарку набора талантов в области науки и техники.

На церемонии открытия заместитель мэра Шанхая Се Донг заявил, что за последние три года Шанхай продолжал способствовать строительству международного финансового центра и научно-технического инновационного центра и добился положительных результатов. Шанхайский научно-технический инновационный центр переходит от формирования базовой базовой системы к реализации основных функций. Шанхай приложит больше усилий для продвижения центра финансовых технологий, имеющего важное глобальное влияние, на более высокий уровень, придавая новый импульс развитию международного финансового центра Шанхая.

Чжан Жэньхэ, академик Китайской академии наук и вице-президент Фуданьского университета, отметил, что Научная разведка (ИИ для науки) стала ключевым направлением развития искусственного интеллекта, содействуя междисциплинарным исследованиям и стимулируя инновационные прорывы. Ускорить глубокую интеграцию технологических инноваций и промышленных изменений, а также способствовать промышленной трансформации и модернизации. «Отечественная научная разведка также быстро развивается, и большое количество крупных моделей в научной области появилось одна за другой, но они все еще находятся в зачаточном состоянии», - сказал Чжан Жэньхэ, столкнувшись с появлением «ИИ». эпоха», «действовать в одиночку» больше невозможно. Чтобы адаптироваться к научным и технологическим инновациям в эпоху большой науки, наибольшее преимущество проведения «организованных научных исследований» заключается в планировке и строительстве большой платформы.

Общие возможности больших моделей позволяют применять ИИ к различным сценариям человеческого производства и жизни, которые можно назвать «повсеместными». Это также порождает новые проблемы безопасности и конфиденциальности. Как решить эту скрытую опасность? Хэ Цзифэн, академик Китайской академии наук считает, что ** крупные модели. Основными проблемами безопасности являются сбор, использование и раскрытие личной информации без согласия. Проблемы с конфиденциальностью могут возникнуть в процессе обучения или во время использования, а возможность генерации больших моделей разнообразит способы «утечки конфиденциальной информации», что усложняет защиту конфиденциальности**.

«Чтобы справиться с этими проблемами, нам нужна технология согласования крупных моделей», — сказал Хэ Цзифэн: «Выравнивание» означает, что цели системы соответствуют человеческим ценностям, чтобы она соответствовала интересам и ожиданиям проектировщика. и не приводит к неожиданным вредным последствиям. «Если искусственный интеллект рассматривать как Сунь Укуна в «Путешествии на Запад», то «выравнивание» — это ужесточающее проклятие Тан Монка. С ужесточающим проклятием мы можем гарантировать, что технологии не будут использовать свои способности, чтобы сделать что-то неправильное».

Однако технология выравнивания также сталкивается с проблемами. Во-первых, основой согласования является то, что человеческие ценности разнообразны и динамично изменяются, и необходимо обеспечить, чтобы большая модель служила и была добра к людям; во-вторых, цели полезности и безвредности большая модель не полностью согласована. Также возникают проблемы с тем, как эффективно исправлять ошибки и накладывать «ужесточающее проклятие» на большие модели. В результате согласование технологий превратилось в головокружительное междисциплинарное исследование, в котором проверяются не только технологии, но и культура.

Хэ Цзифэн рассказал, что обучение с подкреплением обратной связи – это технический способ достижения согласованности. В настоящее время существует два способа. Один – подавать модели различные сигналы вознаграждения посредством обратной связи вручную, чтобы направлять модель на высококачественный результат; Другой способ — предварительно обеспечить четкие принципы для больших моделей, система автоматически обучает модель, чтобы обеспечить начальное ранжирование всех сгенерированных выходных результатов. «Это означает, что не только интеллектуальные системы должны быть приведены в соответствие с человеческими ценностями, но и методы обучения людей также должны быть приведены в соответствие с ценностями», — сказал Хэ Цзифэн.

Многие отраслевые аналитики отмечают, что генеративный искусственный интеллект, основанный на больших моделях, — это мощная новая технология, способная изменить глобальную экономику. Или Ни, председатель McKinsey China и старший партнер McKinsey Global, отметил, что положительное влияние генеративного ИИ на мировую экономику может достигать 7,9 триллионов долларов США, а общий объем широко распространенного ИИ может достигать 25 триллионов долларов США. Генеративный искусственный интеллект окажет влияние на различные отрасли: высокие технологии, розничная торговля и банковское дело войдут в тройку лидеров.

Прорыв крупных моделей считается «моментом iPhone» искусственного интеллекта, повлекшим за собой промышленные изменения в эпоху искусственного интеллекта. Председатель и генеральный директор Ant Group Цзин Сяньдун процитировал фразу из фильма «Оппенгеймер»: точно так же, как изобретение атомной бомбы — это «не новое оружие, а новый мир», появление крупных моделей — это «не новая технология». Но новый мир». Он сказал, что огромное влияние запуска iPhone далеко не так просто, как превращение большого экрана в маленький, а то, что маленький экран позволяет пользователям быть «всегда онлайн»**, тем самым значительно способствуя развитию люди и услуги, люди и товары, вся связь. Цзин Сяндун также сообщил, что большая модель, которую Ant выпустит 8 сентября, представляет собой полнофункциональную компоновку и является исключительно собственной разработкой.