This paper critically analyzes the ethical and legal responsibility of the legal profession in the face of the "hallucination" phenomenon in generative Artificial Intelligence systems, specifically regarding the creation of non-existent case law in procedural documents. Based on a legal-dogmatic study and analysis of paradigmatic cases in Brazilian and North American courts occurring between 2024 and 2025, the research demonstrates how the absence of specialized human review (AI complacency) violates core provisions of the Brazilian Bar Association (OAB) Statute and Code of Ethics, such as the duties of veracity, good faith, and professional diligence. Finally, the work proposes practical guidelines for prompt engineering and technical supervision to mitigate algorithmic risks and preserve the integrity of the administration of justice.

Este artigo analisa a responsabilidade ética e jurídica da advocacia diante do fenômeno da alucinação em sistemas de Inteligência Artificial generativa, especificamente no que tange à criação de jurisprudência inexistente em peças processuais. A partir de um estudo jurídico-dogmático e análise de casos paradigmáticos nos tribunais brasileiros e norte-americanos ocorridos entre 2024 e 2025 , o trabalho demonstra como a ausência de revisão humana especializada (complacência da IA) viola dispositivos centrais do Estatuto da Advocacia e do Código de Ética e Disciplina da OAB, como os deveres de veracidade, boa-fé e zelo profissional. Por fim, a obra propõe diretrizes práticas de engenharia de prompts e supervisão técnica para mitigar riscos algorítmicos e preservar a integridade da administração da justiça.