Почему бы не сжать и не закодировать квантованные латенты непосредственно на периферийных устройствах перед передачей по сети? Это интересный технический подход. Вы потенциально можете снизить требования к пропускной способности, сохраняя целостность данных. Честно говоря, чем больше я об этом думаю, тем более это кажется жизнеспособным — почему бы просто не реализовать это и не посмотреть, как оно работает?