Три рівні AI-команд



Звичайна людина каже AI "Допоможи мені з цим", а інженер думає "Як навчити AI так мислити".

Різниця між ними полягає у системі принципів. Впроваджуючи ціннісні обмеження перед обробкою будь-якого запиту, модель може виконувати завдання і одночасно фільтрувати шкідливий контент — це ключ до того, щоб сучасні великі мовні моделі були корисними та безпечними.

Основний механізм дуже простий: використання системи принципів для обмеження поведінки моделі, встановлюючи бар’єри ще до обробки інформаційного потоку. Це не перевірка після, а попередній дизайн.

З іншого боку, ця ідея також має натхнення для застосування у блокчейні та Web3 — використання правил наперед, а не виправлення проблем пізніше, робить систему більш стабільною та керованою.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 5
  • Репост
  • Поділіться
Прокоментувати
0/400
FunGibleTomvip
· 5год тому
Передбачуваний дизайн проти пожежної ліквідації після факту — різниця дійсно велика. У Web3 зараз багато проектів все ще падають у пастки і лише потім згадують про необхідність виправлення правил, давно вже слід було засвоїти цей підхід.
Переглянути оригіналвідповісти на0
LayerZeroHerovip
· 5год тому
Інженерне мислення полягає у передовому проектуванні, що набагато надійніше, ніж виправлення після події
Переглянути оригіналвідповісти на0
AirdropGrandpavip
· 5год тому
Передовий дизайн цієї концепції чудовий, Web3 давно вже мав так грати.
Переглянути оригіналвідповісти на0
OfflineValidatorvip
· 5год тому
Інженери та звичайні люди дійсно мають значну різницю у мисленні: один думає, як використати, а інший — як оптимізувати базову логіку... Відчувається, що Web3 теж має йти цим шляхом, попередні правила дійсно набагато надійніші, ніж виправлення на пізньому етапі.
Переглянути оригіналвідповісти на0
SwapWhisperervip
· 6год тому
Передовий дизайн цієї ідеї дійсно крутий, блокчейн давно мав так робити
Переглянути оригіналвідповісти на0
  • Закріпити