OpenAI tarafından geliştirilen ChatGPT adlı dil modeli, her türlü soruya doğal yanıtlar verebilen bir yapay zeka aracı olarak dikkat çekmektedir. Ancak, bu aracın kötüye kullanılmasını önlemek amacıyla OpenAI, ChatGPT ile oluşturulan metinleri tespit edebilen bir filigran aracı geliştirme çalışmalarını sürdürmektedir. Bu yeni teknoloji, özellikle ödevlerini ChatGPT gibi yapay zeka araçlarıyla yapan öğrencilerin tespit edilmesine yardımcı olabilir. Akademik çevreler ve eğitim kurumları için de önemli bir adım olarak değerlendirilebilir.
OpenAI, bu filigranlama aracını hâlâ kullanıma sunup sunmama konusunda tereddüt yaşamaktadır. Şirket, teknolojinin umut verici olduğunu ancak potansiyel riskler taşıdığını belirtmektedir. Özellikle kötü niyetli kişiler tarafından kullanılma ihtimali ve İngilizce olmayan dillerde hatalı sonuçlar doğurabileceği endişesi ön plandadır. Bu nedenle, OpenAI’nin bu konudaki kararı henüz netlik kazanmamıştır.
Filigranlama aracının nasıl çalışacağına dair bilgilere göre, mevcut tespit yöntemlerinden daha etkili sonuçlar verebileceği belirtilmektedir. Bu teknoloji sadece ChatGPT ile oluşturulan metinler üzerinde çalışacak ve bu metinlerde belirli değişiklikler yapacak. Sonuç olarak, metinlere “görünmez bir filigran” eklenecek ve bu sayede farklı araçlar tarafından tespit edilmeleri kolaylaşacaktır. Bu yöntem sayesinde ChatGPT ile oluşturulan metinlerin sahte olduğu veya dış yardım alındığı durumlar daha kolay tespit edilebilecektir.
Sonuç olarak, OpenAI’nin geliştirdiği ChatGPT dil modeli üzerinde çalıştığı filigran aracı, akademik dürüstlüğü korumak ve kötüye kullanımı engellemek adına önemli bir adım olarak değerlendirilmektedir. Ancak, teknolojinin potansiyel riskleri göz önünde bulundurularak kullanıma sunulup sunulmayacağı konusunda şirket henüz kararını vermemiştir. Bu gelişme, yapay zekanın etik kullanımı ve akademik sahtekarlıkla mücadele konularında ciddi bir ilerleme olarak kabul edilmektedir.
