____      _            _   _
|  _ \ ___| |_ _ __ ___| \ | | _____      _____
| |_) / _ \ __| '__/ _ \  \| |/ _ \ \ /\ / / __|
|  _ <  __/ |_| | | (_) | |\  |  __/\ V  V /\__ \
|_| \_\___|\__|_|  \___/|_| \_|\___| \_/\_/ |___/
            

grep -r "sam-rose" /noticias/

• Quantização do zero
  Simon Willison 26/03/2026 16:21
  Sam Rose dá um show com um ensaio interativo sobre quantização de Modelos de Linguagem Grandes, e sua explicação sobre números de ponto flutuante é de dar aquele prazer nerd. Ele menciona os "outliers" e como até um único "super weight" pode provocar um festival de gibberish nos modelos - imagina fazer um deploy e o bot começar a falar Klingon em vez de português. E o que mais importa: a quantização de 16 bits para 8 bits não parece afetar muito a qualidade, que na verdade se mantém em quase 90% do original. Um verdadeiro quebra-cabeça para os fãs da matemática!
  #desenvolvimento #ia #generative-ai #llms #sam-rose
  https://simonwillison.net/2026/Mar/26/quantization-from-t...