• 14 Posts
  • 20 Comments
Joined 4 months ago
cake
Cake day: July 25th, 2024

help-circle





  • Testei hoje o OpenChat-3.6 (7 bilhões de parâmetros) e ele quase conseguiu escrever um simples editor de texto. Parece pouco, mas eu acho que podemos apostar na evolução das LLMs de poucos parâmetros. Em muitas tarefas, essas LLMs têm o mesmo desempenho das gigantes. Se você perguntar alguma coisa sobre a China ou a Rússia, por exemplo, ela vai saber responder.

    Além disso, a comunidade open-source está alcançando capacidades de pesquisa na Web usando o Selenium para a automação Web. Isso significa respostas precisas, caso elas estejam disponíveis no Google.

    Há a possibilidade de desenvolver algo de muito valor com poucos recursos. Podemos também usar modelos menores para tarefas de processamento de linguagem natural - como classificação de texto e análise de sentimentos. Tudo isso, tecnicamente, por muito menos do que os R$26,9 bilhões que o governo separou para a produção de Inteligência Artificial.

    Se não sair nada interessante vindo do Brasil nos próximos anos, o problema é burocrático e não por causa de poucos recursos.

    (Edit) Importante dizer que o modelo LLaMa 70b (70 bilhões de parâmetros) não consegue criar um simples editor de texto. Isso cria uma referência interessante para o futuro.









  • É, o pior é que essas empresas que começam como startups fazem sempre serviços pro governo. O que é péssimo. Tem exemplos de empresas que nasceram na UFRJ, aqui no Rio, que agora vivem desses acordos com governos.

    É ruim porque uma divisão do governo, talvez a EMBRAPA ou a EMBRAPII, podiam fazer esse serviço. Criava uma pequena equipe que desenvolvesse esses aplicativos. Porque o QGIS e outros aplicativos open source (que provavelmente essas empresas vampíricas utilizaram) fazem a maior parte do trabalho. É uma rede muito grande que criou tecnologias que poderiam ser utilizadas diretamente pelo governo. Devem ter usado o OpenCV e o QGIS, mais uma WebUI, e aí já vira uma empresa que só serve pra sugar o reconhecimento e os recursos brasileiros.

    No máximo uma organização sem fins lucrativos, também valeria pra melhorar a gestão da burocracia.




  • O dia que os ebook readers incorporarem o LaTeX, vai ser outra coisa.

    Vi um projeto no GitHub chamado im2Latex, que faz OCR de fórmulas escritas em LaTeX com uma precisão considerável.

    O mercado dos ebook readers precisa evoluir, porque é muito útil mas é lento e difícil de usar como propósito de leitura geral.

    Investir no epub e em outros meios de código aberto para a leitura é muito importante.

    Quem sabe eu não consigo tirar essa ideia do papel até o ano que vem ainda e implementar o LaTeX em um epub. Seria algo muito interessante de ver acontecer e me traria um senso de autorealização muito legal.

    Edit: esse mercado também precisa incorporar a proteção e a autopropriedade dos dados. Ou seja, ser mais anti-DRM e mais focado na posse dos direitos ao comprar um epub. Já comprei 2 livros no smashwords, e lá funciona um pouco como o bandcamp, você compra o livro e fica com os “direitos” de redistribuição. Mais claramente, você obtém um epub sem proteção DRM.


  • Tudo isso é muito interessante. Segundo o Glenn Greenwald, o Metrópoles é porta-voz do Alexandre de Moraes.

    A forma que as coisas estão se desenhando, que era lado A/lado B e agora é lado C, lado D. O Twitter se tornando um espaço só para conservadores, um espaço para os que pensam igual ao Elon Musk. E outras alternativas com outras culturas.

    Isso contradiz muito dos “princípios” que eram seguidos antigamente. Quando se fazia um desenho para incluir todos e se defendia, em particular, os princípios estadunidenses e que essas empresas representariam o interesse dos EUA.

    E agora, os governos caçam abertamente essas empresas e outras. E os EUA se contradizem ao banir o Tiktok. É tudo muito interessante. É um tempo especial.



  • Eu lembro que as pessoas demoraram a sair do Windows 7 pro 10 também. Será que era só 5% que tinha em 2020? Realmente não dá pra entender muito a estratégia da Microsoft, mas nos últimos 10 anos ela saiu de menos de 1 trilhão de dólares de valor de mercado para mais de 3 trilhões, então devem saber o que estão fazendo.

    O artigo diz que a Microsoft vai investir em IA. Não sei. Me parece que eles estão apostando em uma repressão mais franca quanto aos outros Sistemas Operacionais e a ARM agora planeja entrar forte no mercado de PCs. Pode ser que tenham planos nefastos para garantir a monopolização do mercado da Internet e dos computadores.

    Eu prefiro acreditar que o Linux ficou mais forte com o tempo e que um vendaval causado pela Microsoft não venha a trazer danos claros, mas vamos ter que ver como as coisas vão ficar.




  • Desde o impeachment da Dilma, eu acompanho o Congresso Nacional com algum interesse. Mesmo que as redes sociais já existissem naquela época, o efeito era muito menor. Desde que acompanho, o Congresso Nacional sempre teve esse clima de bagunça, que os deputados fazem piadas uns com os outros para fazerem pouco caso do que o outro está dizendo. Talvez funcione assim na esfera pública e acabar com isso totalmente não seria a melhor coisa a fazer, mas está lá.

    Acho também que existem menos pessoas fazendo conteúdo interessante do que pessoas querendo assisti-los. Muitas pessoas só conhecem e estão presas às maiores plataformas, sem conhecer o que outros lugares podem oferecer. Isso exige infraestrutura, que exige dinheiro, mas também acredito que com a popularização dos códigos e agora com a IA essa barreira esteja muito mais baixa.

    Mesmo que plataformas como Youtube, X e Facebook queiram fazer acreditar que têm todo o conteúdo e toda a plataforma do mundo, isso não é verdade. Os algoritmos são geridos para expulsar a maior parte das pessoas que produzem conteúdo e tornar permanente as ideias que as plataformas querem trazer, com objetivos escusos como fazerem as pessoas exporem sua vida ao máximo, como funciona no Facebook.

    A luta contra essas plataformas é com outras plataformas. Mesmo que a aderência seja baixa, isso cria uma comunidade de muito valor, atual ou para o futuro, e também mais distante dos interesses das grandes empresas.

    Comunidades criadas com interesses empresariais - como acontece muito no Brasil - também não têm muito valor, ao meu ver. O ideal seria que as Universidades brasileiras estivessem na ponta do crescimento e da formação de tecnologia do Brasil. Existem empresas que foram incubadas em Universidades brasileiras, mas a capacidade está muito aquém do potencial. As Universidades brasileiras formarem sua própria tecnologia e identidade é fundamental.


  • No caso das redes sociais, não tenho dúvidas que é uma espécie de síndrome de estocolmo.

    Mas no caso de Windows e Google, é um enjaulamento forçado.

    O Windows tem adoção muito grande de mercado. Ou seja, pra trabalhar precisa desenvolver algo que funcione no Windows (já tive casos de código Java funcionar no Linux e não funcionar no Windows, por exemplo).

    No caso da Google, muitas pessoas só tem dinheiro e possibilidade de comprar um celular, sem entender o encanto de ter um computador de verdade.

    Finalmente, eu espero que a cultura dos PCs (suporte a múltiplos sistemas operacionais e modularidade na construção) chegue aos celulares, e não que a cultura dos celulares (anúncios toda hora, preso ao suporte da empresa que fabricou o celular) chegue aos PCs.











  • Muito difícil tomar na mão as tecnologias. O modelo de organização sem fins lucrativos como o Linux e o Mastodon parecem funcionar, mas não há como negar que a influência gera um certo poder pras plataformas que, por consequência, começam a fazer parte de acordos e parcerias com outras empresas. O modelo de crowdfunding e patrocínio são os mais comuns pra esse tipo de iniciativa. Mas, realmente, eu acho que o modelo de corpo de direção e investidores - com foco na aquisição de fundos e valorização das ações - deveria ficar no passado. As Big Techs mostram como funcionar assim gera um produto com menos valor e muito mais voraz na relação com o cliente.