「これらの問題に対処するには、大規模モデルのアライメント技術が必要です。」と He Jifeng 氏は述べ、「アライメント」とは、システムの目標が人間の価値観と一致し、設計者の興味や期待に適合することを意味します。予期せぬ有害な結果を引き起こすことはありません。 「人工知能を『西遊記』の孫悟空とみなすなら、『調整』は唐僧の締め付ける呪いだ。締め付ける呪いによって、テクノロジーがその能力を悪用するのを確実に防ぐことができる。」
He Jifeng 氏は、フィードバック強化学習は調整を達成するための技術的方法であると紹介しました。現在 2 つの方法があります。1 つは手動フィードバックを通じてモデルに異なる報酬信号を与え、モデルの高品質な出力を導く方法です。もう 1 つの方法は、大規模なモデルに明確な原則を事前に提供することです。システムは自動的にモデルをトレーニングして、生成されたすべての出力結果の初期ランキングを提供します。 「これは、インテリジェントシステムが人間の価値観と一致する必要があるだけでなく、人間の訓練方法も価値観と一致する必要があることを意味します」とHe Jifeng氏は述べた。
多くの業界アナリストは、大型モデルによる生成人工知能は世界経済を変える可能性を秘めた強力な新技術であると指摘しています。マッキンゼー・チャイナの会長でマッキンゼー・グローバルのシニア・パートナーであるイーリ・ニー氏は、生成AIが世界経済にもたらすプラスの影響は最大7兆9000億米ドルに達し、広く普及したAI全体では25兆米ドルに達する可能性があると指摘した。生成 AI はさまざまな業界に影響を与えると考えられており、ハイテク、小売、銀行がトップ 3 にランクインしています。
外灘会議が今日開幕し、生成 AI と大規模モデルが「トップトレンド」トピックに
出典: Financial AP通信
著者: 黄信義
2023年包摂外灘会議が9月7日に上海黄浦世界博覧公園で正式に開幕した。 「テクノロジーと持続可能な未来の創造」をテーマとするこの 3 日間のカンファレンスには、2 つのアカデミーの約 20 名の学者、ノーベル賞とチューリング賞受賞者、および世界中から 500 名を超える影響力のあるテクノロジーリーダーや専門家が集まります。ここでは、科学と技術、人文科学、産業の間でアイデアの衝突を引き起こします。
開会式で謝東上海副市長は、上海は過去3年間、国際金融センターと科学技術イノベーションセンターの建設を推進し続け、良好な成果を上げてきたと述べた。上海科学技術イノベーションセンターは、基本的な枠組みシステムの形成から中核機能の実現へと変革を進めている。上海は、世界的に影響力のある金融テクノロジーセンターをより高いレベルに押し上げ、国際金融センターとしての上海の発展に新たな推進力を吹き込むために一層の努力を払う。
中国科学院の学者で復丹大学の副学長である張仁和氏は、科学知能 (AI for Science) が人工知能の主要な開発方向 となり、学際的な研究を促進し、革新的なブレークスルーを刺激していると指摘しました。技術革新と産業変革の緊密な統合を加速し、産業の変革とアップグレードを促進します。 「国内の科学知能も急速に発展しており、科学分野における多数の大型モデルが次々に登場していますが、まだ初期段階にあります。」 張仁和氏は、 「AI時代」、もはや「単独で戦う」ことは不可能 ビッグサイエンス時代の科学技術革新に適応する「組織的科学研究」の最大のメリットは、大規模なプラットフォームの配置と構築にある。
大規模モデルの普遍的な能力により、AI は人間の生産と生活のさまざまなシナリオに適用できますが、主なセキュリティ問題は、同意のない個人情報の収集、使用、開示です。学習過程や利用過程でプライバシー問題が発生する可能性があり、大規模なモデルの生成能力により「プライバシー漏洩」の手口が多様化し、プライバシー保護がより困難になっています**。
「これらの問題に対処するには、大規模モデルのアライメント技術が必要です。」と He Jifeng 氏は述べ、「アライメント」とは、システムの目標が人間の価値観と一致し、設計者の興味や期待に適合することを意味します。予期せぬ有害な結果を引き起こすことはありません。 「人工知能を『西遊記』の孫悟空とみなすなら、『調整』は唐僧の締め付ける呪いだ。締め付ける呪いによって、テクノロジーがその能力を悪用するのを確実に防ぐことができる。」
しかし、アライメント技術も課題に直面しています。まず第一に、** 調整の基礎は、人間の価値観は多様で動的に変化しており、大規模なモデルが人々に役立ち、人々にとって有益であることを保証する必要があること、第 2 に、有用性と無害性の間の目標です。大規模なモデルは完全に一貫性がありません**。効果的にエラーを修正し、大規模なモデルに「厳しい呪い」を設定する方法も課題です。その結果、技術の調整は技術だけでなく文化も試される、目まぐるしい学際的研究となった。
He Jifeng 氏は、フィードバック強化学習は調整を達成するための技術的方法であると紹介しました。現在 2 つの方法があります。1 つは手動フィードバックを通じてモデルに異なる報酬信号を与え、モデルの高品質な出力を導く方法です。もう 1 つの方法は、大規模なモデルに明確な原則を事前に提供することです。システムは自動的にモデルをトレーニングして、生成されたすべての出力結果の初期ランキングを提供します。 「これは、インテリジェントシステムが人間の価値観と一致する必要があるだけでなく、人間の訓練方法も価値観と一致する必要があることを意味します」とHe Jifeng氏は述べた。
多くの業界アナリストは、大型モデルによる生成人工知能は世界経済を変える可能性を秘めた強力な新技術であると指摘しています。マッキンゼー・チャイナの会長でマッキンゼー・グローバルのシニア・パートナーであるイーリ・ニー氏は、生成AIが世界経済にもたらすプラスの影響は最大7兆9000億米ドルに達し、広く普及したAI全体では25兆米ドルに達する可能性があると指摘した。生成 AI はさまざまな業界に影響を与えると考えられており、ハイテク、小売、銀行がトップ 3 にランクインしています。
大型モデルの躍進は人工知能の「iPhoneの瞬間」と考えられており、AI時代に産業に変化をもたらします。アント・グループ会長兼最高経営責任者（CEO）のジン・シェンドン氏は、映画「オッペンハイマー」のセリフを引用し、原爆の発明が「新しい兵器ではなく、新しい世界」であるのと同じように、大型模型の登場は「新しいテクノロジーではなく、新しい世界です。」同氏は、iPhone 発売の多大な影響は、大きな画面が小さな画面になるという単純なものではなく、小さな画面によってユーザーは「常にオンライン」** できるようになり、その結果、iPhone の開発が大きく促進されたと述べました。人とサービス、人とモノのつながり全体。 Jing Xiandong 氏は、**Ant が 9 月 8 日にリリースする大型モデルはフルスタック レイアウトであり、純粋に自社開発された ** であることも明らかにしました。