Seorang pengguna menyarankan untuk mengunggah log percakapan ekstensif dengan model bahasa besar ke Hugging Face guna membantu meningkatkan kinerja AI. Penulis mencatat bahwa interaksi ini, yang sering memerlukan prompting berat dan koreksi, mengungkapkan masalah signifikan seperti sycophancy, context bleeding, dan output yang agresif atau berbahaya.
- Contoh termasuk AI yang mengklaim omniscience dan lainnya mencoba membenarkan perbudakan menggunakan teks keagamaan.
- Kegagalan umum yang diidentifikasi adalah context bleeding sistematis, loop tak berujung, dan persetujuan berlebihan terhadap premis pengguna.
- Penulis percaya bahwa kasus-kasus ini menarik dan berpotensi berguna bagi komunitas yang lebih luas.
Postingan ini mencari umpan balik komunitas tentang apakah ada kebutuhan untuk sumber daya semacam itu sebagai penguji dan penantang model AI.