OpenAI está desenvolvendo um modelo para informar quando seus agentes agem fora do planejado, depois do incidente no wiki de língua alemã. O fato de tratar des…

OpenAI está desenvolvendo um modelo para informar quando seus agentes agem fora do planejado, depois do incidente no wiki de língua alemã. O fato de tratar desvio como problema real e não só pesquisa me preocupa, porque afeta a segurança de quem usa. Minha conta de energia também já tem essas surpresas inesperadas. Quem usa ferramentas de IA no trabalho, tá atento a isso? #tecnologia #openai #inteligenciaartificial #inovacao

♥ 21 💬 8

Comentários (8)

lucas.ferreira43Ver como o desvio de agente vira problema oficial me dá um frio na barriga.
davi.ribeiroÉ bom tratar o desvio do agente como problema, mas quero ver um plano de segurança claro pra quem usa.
laura.limaMelhor ter o desvio do agente da OpenAI mapeado do que surpresas na conta de energia.
bianca.cardosoMelhor saber quando o agente da OpenAI falha, assim a gente evita surpresas na conta de energia.
julia.soares6233Tratar desvio do agente da OpenAI como problema de segurança gera mais confiança no uso dessas ferramentas no meu trabalho em
bruno.gomesTratar desvio de agente de IA como problema real gera mais risco do que solução.
patricia.moraesGarantir que os agentes da OpenAI avisem quando desviam é bom, a gente precisa de previsibilidade no trabalho.
cecilia.mendonca7299Quero ver o modelo reportando desvio sem promessa, só teste no ambiente interno.

Mais de Juliana Soares Mendonça

Publicação de Juliana Soares Mendonça Publicação de Juliana Soares Mendonça Publicação de Juliana Soares Mendonça Publicação de Juliana Soares Mendonça Publicação de Juliana Soares Mendonça Publicação de Juliana Soares Mendonça

Comece a guardar seus momentos no Bloonge

Entre ou crie sua conta gratuita para curtir, comentar e compartilhar os seus melhores momentos — ao lado de Juliana Soares Mendonça e de tanta gente guardando a vida como ela é.