A OpenAI Anuncia Novas Funcionalidades para Modelos de IA Durante o Evento DevDay

A OpenAI revelou ontem novas ferramentas para desenvolvedores construírem aplicações com seus modelos de IA durante o evento DevDay de terça-feira em São Francisco.

De acordo com a Inc., a startup compartilhou quatro grandes atualizações de API (interface de programação de aplicativos): RealTime, Prompt Caching, Model Distillation e Vision Fine-Tuning. As novas funcionalidades permitirão que os desenvolvedores usem a nova tecnologia da OpenAI e a apliquem em seus próprios produtos.

O mais novo e inovador serviço de API é o RealTime, que permitirá aos desenvolvedores tirar proveito do recentemente lançado recurso de voz para o ChatGPT. O novo recurso processará o áudio imediatamente – era possível antes, mas exigia transcrições e a conexão de diferentes aplicações – e será mais rápido e mais barato. Espera-se que o RealTime também possa lidar com vídeo no futuro.

O Prompt Caching permite aos desenvolvedores reutilizar prompts comuns para reduzir custos e trabalhar de forma mais eficiente. “Isso pode reduzir a latência em até 80% e o custo em 50% para prompts longos”, explicou a OpenAI em sua plataforma para desenvolvedores.

Com o Model Distillation, os desenvolvedores poderão expandir e melhorar as capacidades de modelos de IA menores, como o GPT-4o mini, e o Vision Fine-Tuning ajudará aplicações que dependem de imagens a melhorar a detecção de objetos e a processar conteúdo visual de forma mais eficaz.

O OpenAI compartilhou em seu site e na plataforma de desenvolvedores mais detalhes, exemplos – incluindo vídeos e entrevistas com outras empresas que utilizam as funcionalidades – e os preços das novas funcionalidades. Para o RealTime, por exemplo, as tarifas serão em torno de $0.06 por minuto para entrada de áudio e $0.24 para saída de áudio.

Este novo anúncio chega apenas alguns dias após a renúncia de Mira Murati – Diretora de Tecnologia da OpenAI – e de outros executivos.