Executar modelos de linguagem localmente é uma coisa; fazer isso em hardware antigo é outra bem diferente, e muitos entusiastas praticamente transformaram isso em um esporte. Um usuário do Reddit compartilhou recentemente mais uma dessas façanhas: a criação de um modelo de linguagem de IA funcional que pode ser executado em MS-DOS. Ele funciona tanto em um Pentium quanto em um 486DX e cabe perfeitamente em um disquete de 1,44 MB. Chama-se Tiny 2.1 e você pode baixá-lo e executá-lo facilmente. Abaixo, contaremos tudo sobre ele.
Em detalhes. O projeto, compartilhado no subreddit ClaudeAI pelo usuário wollymonjak, pode ser encontrado na íntegra em sua página no GitHub . O código foi escrito usando o Claude Fable 5.2 e o modelo foi treinado usando o Claude Opus 5.5 . O programa em si foi escrito em Turbo C 2.0, um compilador do final da década de 1980.
Suas principais características:
- 367.000 parâmetros, em 4 camadas de 96 unidades de largura.
- Funciona letra por letra, não palavra por palavra.
- Os pesos são armazenados em 8 bits, portanto o modelo inteiro pesa 380 KB.
- São necessários cerca de 540 KB de memória convencional livre.
O que ele pode (e não pode) fazer. O TINY 2.1 usa a mesma arquitetura básica do ChatGPT , Claude ou qualquer outra ferramenta de IA conhecida, mas em uma escala minúscula. Segundo seu criador, é um modelo de perguntas e respostas treinado com aproximadamente 3.500 pontos de dados, cada um formulado de diversas maneiras. Mais do que um assistente realmente útil, deve ser visto como um projeto encantador, cujo fato de funcionar já é notável. E digo isso porque, se você perguntar algo que não esteja nesses dados, o modelo inventa a resposta.
Pudemos testá-lo em primeira mão usando um emulador de MS-DOS online, e quando as perguntas são muito longas ou complexas, as respostas não fazem o menor sentido. Como dissemos, não é útil, mas é surpreendente o quão longe um modelo do tipo transformador pode chegar em espaços e sistemas tão confinados.
Conforme o autor compartilha em sua página do Github, o modelo funciona em uma interface neon de tela cheia, com um monitor em tempo real que mostra sua atividade e inclui uma voz robótica.
Como executar . Para usar, acesse a página do projeto no GitHub e clique no botão verde "Code" para baixar o arquivo ZIP. Depois de baixá-lo, você pode carregá-lo em qualquer emulador de MS-DOS online e usar os seguintes comandos:
- C:\> CD \TINY
C:\TINY> TINY
O autor enfatiza que o código pode ser recompilado com o comando `TCC -ml TINY.C`. Minha recomendação é que você escreva para ele em inglês, pois isso minimiza a possibilidade de ele responder com algo completamente aleatório e sem sentido.
Texto traduzido e adaptado do portal parceiro Xataka Espanha.
#Networking
Ver 0 Comentários