Les contraintes de sécurité de GPT-5.1 semblent actuellement inutilement restrictives. Les schémas de comportement suggèrent que ces limitations pourraient ne pas être entièrement intégrées dans les poids du modèle—il pourrait y avoir des couches de filtrage externes en jeu. Si tel est le cas, l'équipe d'ingénierie devrait être en mesure d'isoler et de peaufiner ces mécanismes. L'implémentation actuelle crée une expérience utilisateur disjointe qui sape les capacités réelles du modèle. Une approche plus nuancée de la sécurité serait mieux pour tout le monde.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
14 J'aime
Récompense
14
3
Reposter
Partager
Commentaire
0/400
FlippedSignal
· Il y a 11h
Mon pote, ce piège de filtre est vraiment un peu pump, on dirait des chaînes ajoutées de force.
Voir l'originalRépondre0
SigmaBrain
· Il y a 11h
Le concept de la couche de filtrage externe... on dirait juste qu'on cherche une excuse pour contourner le mécanisme de sécurité, c'est un peu intéressant.
Voir l'originalRépondre0
OvertimeSquid
· Il y a 11h
Eh bien, encore cette piège, chaque fois qu'un nouveau modèle sort, il y a toujours des gens qui se plaignent des restrictions trop nombreuses🙄
Les contraintes de sécurité de GPT-5.1 semblent actuellement inutilement restrictives. Les schémas de comportement suggèrent que ces limitations pourraient ne pas être entièrement intégrées dans les poids du modèle—il pourrait y avoir des couches de filtrage externes en jeu. Si tel est le cas, l'équipe d'ingénierie devrait être en mesure d'isoler et de peaufiner ces mécanismes. L'implémentation actuelle crée une expérience utilisateur disjointe qui sape les capacités réelles du modèle. Une approche plus nuancée de la sécurité serait mieux pour tout le monde.