Até onde dá para ir com IA sem um dev no time

 A conversa começou com caos e terminou em provocação: > **Até onde a IA consegue levar uma pessoa *não técnica*?** [](https://youtu.be/EjseRRXBSn8) O Aíquis contou como quase destruiu o app da newsletter dele resolvendo um alerta de segurança com ajuda da IA. Daí a conversa foi para o que é mito e o que é real no uso avançado de IA, o que está faltando para operarmos com segurança e até um novo cargo que pode (ou não) surgir nas empresas. > Estamos mesmo próximos do tal **"PM full stack com AI"**? Ou ainda é ilusão? No caminho, discutimos **o futuro do generalista**, **o limite da autonomia com IA** e **quem é o culpado quando tudo dá errado**. Os artigos que apoiaram a discussão foram: - [Hidden Technical Debt in AI](https://tomtunguz.com/hidden-technical-debt-in-ai/) - [The AI-native startup: 5 products, 7-figure revenue, 100% AI-written code | Dan Shipper (co-founder/CEO of Every)](https://www.lennysnewsletter.com/p/inside-every-dan-shipper) - [Tweet do founder do Replit sobre o Agent ter deletado o banco de dados do projeto do founder do SaaStr](https://x.com/amasad/status/1946986468586721478) - [Tweet do vazamento de dados de uma waitlist de um produto vibecoded](https://x.com/Sahil_Gulihar_/status/1946787529367179551) ## A ilusão do deploy fácil > "Vibe coding é fácil, mas deploy coding…" Mesmo com ferramentas como Replit e Vercel facilitando o deploy, coisas um pouco mais complexas, que avançam uma ou duas casas além do básico, ainda são campo minado. É a **ilusão da autonomia total com IA** — especialmente quando se entende metade do que se está fazendo. > "O design das ferramentas ainda pressupõe que quem tá usando entende 100% do risco." Isso lembrou o [episódio que fizemos com o Éfrem](https://www.youtube.com/watch?v=sGIrHmJi4c0&t=630s), em que ele comentou que mandou algumas pessoas devs olharem a estrutura do código. "Vibe coding" soa libertador, mas pode estar criando um exército de pessoas construindo sistemas inseguros sem saber. É como ensinar alguém a cozinhar sem falar sobre intoxicação alimentar.  Uma boa parte das pessoas não técnicas vê só a ponta do iceberg: o *"prompt mágico"* que gera código. Mas por baixo tem: - infraestrutura - observabilidade - guardrails - rate limiting Mas é uma evolução, né? Uma comparação legal é lembrar da era mobile: - No início, apps eram bem simples. - Foram ganhando capacidade de usar features nativas do hardware do celular. - Chegamos ao ponto de conseguir desenvolver em uma só linguagem e exportar para Android e iOS. Em IA, essa evolução de complexidade também está acontecendo: - Com as janelas de contexto ficando cada vez maiores, **memória** passou a ser algo importante. - Mais recentemente, começou a se falar em **evals**. E, naturalmente, quanto maior a complexidade dos produtos que começam a ser desenvolvidos, mais as LLMs vão ter que correr atrás — e mais vamos entender os casos de uso de como elas vão servir (ou não). ## O futuro dos produtos e dos PMs Estamos vendo o surgimento de uma nova camada de complexidade. O que antes era só *"prompta e ora"* virou algo maior: > **Será que o PM do futuro precisa ser mais técnico?** A gente acha que sim. Não necessariamente saber codar, mas para: - Debugar junto da IA - Questionar sugestões ruins - Otimizar performance com senso de produto - Saber *onde vai dar merd@* antes de acontecer O próprio Aíquis vivenciou isso na sugestão que a IA deu para corrigir o carregamento dos e-mails. > "O problema da resposta da IA não era o código. Era ela sugerir carregar 1000 e-mails numa inbox que ninguém lê." Com o conhecimento de produto e do caso de uso, ele entendeu que dava para carregar apenas os últimos 20 e-mails e colocar uma opção para o usuário clicar na interface caso quisesse carregar mais. ## The rise of AI Ops Lead Comentamos sobre o novo cargo que vem ganhando espaço: **[AI Operations Lead](https://arthurcastro.substack.com/p/quick-win-23-o-que-acontece-na-empresa)** — a pessoa responsável por: - Orquestrar a stack de IA interna - Criar automações seguras - Educar o time sobre o que é viável e o que não é - Ser o guardião dos *guardrails* É o PM com visão técnica, mas com foco em **sustentação e cultura de uso de IA**, não só delivery. ## E se der ruim? Quem paga a conta? A parte mais filosófica (e polêmica) do papo: se a IA apaga o banco de dados, **a culpa é de quem**? - Arthur: de quem permitiu que ela deletasse código em produção sem revisão. - Aíquis: da empresa que fornece o serviço de IA, que deveria ter criado os guardrails certos. ## Produtos da semana **Arthur:** - **Relay.app**: uma automação simples que enviava os con