Обмеження безпеки GPT-5.1 наразі виглядають надмірно обмежувальними. Моделі поведінки вказують на те, що ці обмеження могли б бути не зовсім вбудовані в ваги моделі — можуть бути зовнішні фільтруючі шари. Якщо це так, команда інженерів повинна мати можливість ізолювати та вдосконалити ці механізми. Поточна реалізація створює розірваний користувацький досвід, який підриває фактичні можливості моделі. Більш тонкий підхід до безпеки принесе користь усім.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
14 лайків
Нагородити
14
3
Репост
Поділіться
Прокоментувати
0/400
FlippedSignal
· 2год тому
Брат, ця пастка фільтруючого шару дійсно трохи памп, відчувається, наче це насильно додані кайдани.
Переглянути оригіналвідповісти на0
SigmaBrain
· 2год тому
Зовнішній фільтраційний шар ця пастка... здається, що це просто виправдання, щоб обійти механізми безпеки, цікаво.
Переглянути оригіналвідповісти на0
OvertimeSquid
· 3год тому
Ну, знову ця пастка, щоразу, коли виходить нова модель, хтось скаржиться на занадто багато обмежень🙄
Обмеження безпеки GPT-5.1 наразі виглядають надмірно обмежувальними. Моделі поведінки вказують на те, що ці обмеження могли б бути не зовсім вбудовані в ваги моделі — можуть бути зовнішні фільтруючі шари. Якщо це так, команда інженерів повинна мати можливість ізолювати та вдосконалити ці механізми. Поточна реалізація створює розірваний користувацький досвід, який підриває фактичні можливості моделі. Більш тонкий підхід до безпеки принесе користь усім.