Prompt Caching dalam API OpenAI
OpenAI memperkenalkan prompt caching dalam API yang memberikan diskaun automatik untuk input yang model baru-baru ini lihat. Ciri ini direka untuk mengurangkan kos bagi permintaan berulang dan memudahkan penggunaan bagi pembangun.