ChatGPT’ye nazik olmanın maliyeti ne kadar? Şirketin CEO’su cevap verdi

ChatGPT’ye nazik olmanın maliyeti ne kadar? Şirketin CEO’su cevap verdi
ChatGPT’ye yöneltilen “lütfen” ve “teşekkürler” gibi nazik ifadeler milyonlarca dolar enerji maliyetine yol açıyor.

Bazı kullanıcılar yapay zekâ sohbet robotlarıyla resmi ve kısa konuşmayı tercih ederken, bazıları ise nazik bir dil kullanarak yardım için teşekkür etmeyi ihmal etmiyor. Ne var ki bu kibar ifadelerin enerji tüketimini artırdığı ve bunun da finansal olarak verimsiz olduğu öne sürülüyor.

Nezaket kelimeleri milyonlara mal oluyor

Bir X kullanıcısı, OpenAI’nin sohbet robotu ChatGPT’ye yöneltilen “lütfen” ve “teşekkürler” gibi kelimelerin şirkete ne kadar elektrik masrafı çıkardığını sordu. OpenAI CEO’su Sam Altman, bu nazik kelimelerin şirkete milyonlarca dolara mal olduğunu belirtti. Altman’a göre, fazladan yazılan her kelime, işlem yükünü artırıyor ve buna bağlı olarak enerji tüketimi de yükseliyor.

ChatGPT, Google’dan 10 kat fazla enerji harcıyor

ChatGPT üzerinden gönderilen bir isteğin enerji tüketimi, sıradan bir Google aramasından yaklaşık 10 kat daha fazla. Bir isteğin işlenmesi, verilerin iletilmesi ve sistemler arası iletişim gibi işlemler yüksek elektrik tüketimine yol açıyor. Bu da, güçlü donanımlarla donatılmış modern veri merkezlerinde ciddi bir enerji ihtiyacı anlamına geliyor. Yazılan her "lütfen" ve "teşekkürler", bu tüketimi daha da artırıyor.

Tek bir sorgu ne kadar elektrik harcar?

Kesin bir tüketim değeri vermek zor olsa da, ChatGPT’ye göre GPT-4 gibi bir modelde yapılan tek bir sorgu, 0,1 ile 1 watt-saat (Wh) arasında enerji harcayabilir. Bu da, küçük bir LED lambanın birkaç dakika yanmasına denk geliyor. Ancak bu değer yalnızca sorgu işlemi için geçerli; modelin genel çalışması çok daha fazla kaynak gerektiriyor. Milyonlarca veya milyarlarca sorgu işlendiğinde, toplam enerji tüketimi ciddi seviyelere ulaşıyor.

Nazik olmak bir tür kendini koruma mı?

Şubat ayında yayımlanan bir araştırmaya göre, ABD'de sohbet robotlarını kullananların yüzde 67’si onlara karşı nazik davranıyor. Her beş kişiden biri, yapay zekâyla konuşurken “lütfen” ve “teşekkür ederim” demeyi ihmal etmiyor. Bunun nedeni ise, olası bir “robot isyanında” zarar görmemek için bir tür önlem almak olabilir.

Microsoft’un Tasarım Müdürü Kurtis Beavers ise bir blog yazısında, “Nazik bir dil kullanmak, cevabın tonunu belirler,” diyerek, “Nasıl seslenirsen öyle karşılık alırsın” anlayışını vurguladı.