Um laboratório visual da probabilidade que sustenta a IA, dividido em 4 separadores:
• Distribuições — desenha 7 distribuições e amostra dados delas.
• Softmax & temperatura — como um LLM converte logits em probabilidades e escolhe o próximo token.
• Bayes — porque um teste que acerta 90% pode enganar-te, com o clássico caso médico.
• Entropia / KL — a teoria da informação por trás da cross-entropy, a loss com que se treinam os classificadores.
Tudo se calcula no teu navegador, sem servidor. Esta ajuda muda consoante o separador que tiveres aberto.
Escolhe uma distribuição com os botões acima e move os seus parâmetros com os deslizadores; o gráfico atualiza-se instantaneamente:
• As distribuições contínuas (Normal, Exponencial, Uniforme, Beta) desenham-se como uma curva de densidade (PDF) com a sua área sob a curva.
• As discretas (Bernoulli, Binomial, Poisson) desenham-se como barras (PMF): a probabilidade de cada valor inteiro.
• Marca CDF para sobrepor a acumulada (de 0 a 1), a probabilidade de obter um valor ≤ x.
Cada distribuição traz os seus parâmetros e uma nota de por que aparece em IA:
• Normal (Gaussiana) μ, σ — a rainha: ruído/erros e inicialização de pesos (Xavier/He escalam σ consoante o nº de neurónios).
• Bernoulli p — um ensaio sim/não; a saída de uma classificação binária (sigmoide) e a base da log-loss.
• Binomial n, p — nº de êxitos em n ensaios; contar acertos e testes A/B.
• Poisson λ — contagens de eventos raros por intervalo; média = variância = λ.
• Exponencial λ — tempo entre eventos (sem memória); latências e esperas.
• Uniforme a, b — máxima incerteza num intervalo; inicialização uniforme e amostragem.
• Beta α, β — distribuição sobre probabilidades (0–1); prior conjugado de Bernoulli/Binomial em inferência bayesiana.
Sob os deslizadores mostram-se quatro estatísticas que se recalculam sozinhas:
• Média — o valor esperado (centro de massa).
• Desvio e Variância — quanto se dispersam os valores (o desvio é a raiz da variância).
• Entropia — a incerteza da distribuição, medida em nats (logaritmo natural, não bits): quanto mais plana a distribuição, mais entropia. Usa-se a fórmula fechada quando existe (Normal, Exponencial, Uniforme) e uma soma ou integral numérica no resto.
Clica em Amostrar para tirar N valores ao acaso da distribuição (N vai de 200 a 8000 com o deslizador). Desenha-se o seu histograma normalizado sobre a curva teórica: quantas mais amostras, melhor encaixa o histograma com a densidade — é a lei dos grandes números em ação. Limpar apaga as amostras; mudar um parâmetro ou de distribuição também as descarta.
Marca TLC e cada amostra passa a ser a média de k valores (ajusta k de 2 a 30). Seja qual for a distribuição de origem —enviesada, discreta ou uniforme—, a média tende para uma normal, cada vez mais estreita ao subir k (o seu desvio é σ/√k). Sobrepõe-se em linha a normal limite N(média, σ/√k). Por isso a gaussiana aparece por todo o lado.
A rainha da IA: assume-se para o ruído/erros e para inicializar pesos (Xavier/He escalam σ consoante o nº de neurónios).