Teknolojinin sürekli olarak mümkün olanın sınırlarını yeniden tanımladığı bir bağlamda, Leopold Aschenbrenner'ın son belgesi, Durumsal Farkındalık, Eski adıyla OpenAI olan The Decade Ahead, yapay zeka (AI) için hem umut verici hem de endişe verici bir ufuk çiziyor. 2030'da süper zeka olasılığına yaklaşırken Aschenbrenner önemli kilometre taşlarına dikkat çekiyor ve bu ilerlemelerin derin jeopolitik ve sosyal sonuçları konusunda uyarıda bulunuyor.
Ancak süper istihbarat sistemlerini geliştirme konusundaki dizginsiz yarış karşısında, insanların ihtiyaçlarını ve onurunu ön plana çıkaran hümanist bir bakış açısını sürdürmek hayati önem taşıyor.
Belge, 2027 yılını, ilgili tüm yönlerden insanın entelektüel kapasitesine uygun bir yapay zeka türü olan Yapay Genel Zeka'ya (AGI) ulaşabileceğimiz yıl olarak öngörüyor. YGZ'ye yönelik bu ilerleme, yalnızca tıp ve mühendislik gibi alanlarda devrim yaratmayı vaat etmekle kalmıyor, aynı zamanda istihdam, mahremiyet ve insanın özerkliğiyle ilgili rahatsız edici soruları da gündeme getiriyor. İnsanlığımızın temel unsurlarını teknolojik yenilik sunağında mı feda ediyoruz? Bu durum milyonlarca işçinin istihdamını ve özgüvenini nasıl etkileyecek?
Bilişsel yeteneklerimizi büyük ölçüde aşan yapay zeka olasılığı, temel bir etik zorluk teşkil ediyor.
Makinelerin bilgiyi aşırı işleyebildiği, karar verebildiği ve bağımsız ve muhtemelen üstün bir şekilde hareket edebildiği bir toplumda insanlar nasıl bir yer kaplayacak?
Ve 2030'a gelindiğinde, Nick Nostrom'un kutsadığı ve adlandırdığı süper zekanın gelişi, tüm insanlardan üstün olacak. Burada zekadan, insanın hiçbir zaman aşılamayacağı gerçeği anlamanın ontolojik kapasitesi olarak değil, mantıksal-matematiksel akıl yürütme kapasitesi olarak bahsettiğimizi açıklığa kavuşturmakta fayda var.
Aschenbrenner, teknolojik sınırların ötesinde ABD'nin küresel sahnede, özellikle de Çin ile rekabetinde oynadığı önemli rolü tartışıyor.
Yazar, belirleyici bir ekonomik ve askeri avantaj elde etmek için ABD'nin süper istihbarat yarışında lider olması gerektiğini savunuyor. Bu liderlik, yalnızca yapay zeka araştırma ve geliştirmesine büyük yatırımlar yapılmasını değil, aynı zamanda kritik teknolojilerin düşmanların eline geçmesini önlemek için güvenlik ve teknoloji etiğine odaklanan bir jeopolitik stratejiyi de gerektirecektir.
Eleştirel hümanist bir perspektiften bakıldığında, bu gelişmeler bizi teknolojinin hayatımızda oynamasını istediğimiz rol üzerinde düşünmeye davet ediyor. Yapay zeka, bazı yeteneklerimizi aşma ve karmaşık sorunları çözme potansiyeline sahip olsa da, aynı zamanda bizi, sonunda bizi kontrol edebilecek teknolojiler üzerinde kontrolümüzü nasıl sürdüreceğimiz ikilemiyle de karşı karşıya bırakıyor. Aynı zamanda insan nedir sorusuyla da karşı karşıya bırakıyor bizi? Evrendeki rolümüz nedir?
Aschenbrenner'ın ana hatlarını çizdiği gelecek, sağlam teknik temeline rağmen, teknolojinin ortak faydaya hizmet etmesini ve tüm insanların doğuştan gelen onuruna saygı duymasını sağlayan hümanist değerlerin rehberliğinde bir dengeleme gerektiriyor. On yıl boyunca benzeri görülmemiş teknolojik olanaklara doğru ilerlerken, yapay zekadaki gelişmelerin sürdürülebilirlik, eşitlik ve kapsayıcılığa öncelik veren etik bir bağlam çerçevesinde çerçevelenmesi zorunludur. İtalya'daki son G7 toplantısında tartışıldığı gibi, bir dünya otoritesinin bu konuda harekete geçmesi acildir.
Jorge Vilas Díaz Colodrero, Austral Üniversitesi'nde Yapay Zeka ve Hükümet 5.0 Diploma Direktörüdür
Ancak süper istihbarat sistemlerini geliştirme konusundaki dizginsiz yarış karşısında, insanların ihtiyaçlarını ve onurunu ön plana çıkaran hümanist bir bakış açısını sürdürmek hayati önem taşıyor.
Belge, 2027 yılını, ilgili tüm yönlerden insanın entelektüel kapasitesine uygun bir yapay zeka türü olan Yapay Genel Zeka'ya (AGI) ulaşabileceğimiz yıl olarak öngörüyor. YGZ'ye yönelik bu ilerleme, yalnızca tıp ve mühendislik gibi alanlarda devrim yaratmayı vaat etmekle kalmıyor, aynı zamanda istihdam, mahremiyet ve insanın özerkliğiyle ilgili rahatsız edici soruları da gündeme getiriyor. İnsanlığımızın temel unsurlarını teknolojik yenilik sunağında mı feda ediyoruz? Bu durum milyonlarca işçinin istihdamını ve özgüvenini nasıl etkileyecek?
Bilişsel yeteneklerimizi büyük ölçüde aşan yapay zeka olasılığı, temel bir etik zorluk teşkil ediyor.
Makinelerin bilgiyi aşırı işleyebildiği, karar verebildiği ve bağımsız ve muhtemelen üstün bir şekilde hareket edebildiği bir toplumda insanlar nasıl bir yer kaplayacak?
Ve 2030'a gelindiğinde, Nick Nostrom'un kutsadığı ve adlandırdığı süper zekanın gelişi, tüm insanlardan üstün olacak. Burada zekadan, insanın hiçbir zaman aşılamayacağı gerçeği anlamanın ontolojik kapasitesi olarak değil, mantıksal-matematiksel akıl yürütme kapasitesi olarak bahsettiğimizi açıklığa kavuşturmakta fayda var.
Aschenbrenner, teknolojik sınırların ötesinde ABD'nin küresel sahnede, özellikle de Çin ile rekabetinde oynadığı önemli rolü tartışıyor.
Yazar, belirleyici bir ekonomik ve askeri avantaj elde etmek için ABD'nin süper istihbarat yarışında lider olması gerektiğini savunuyor. Bu liderlik, yalnızca yapay zeka araştırma ve geliştirmesine büyük yatırımlar yapılmasını değil, aynı zamanda kritik teknolojilerin düşmanların eline geçmesini önlemek için güvenlik ve teknoloji etiğine odaklanan bir jeopolitik stratejiyi de gerektirecektir.
Eleştirel hümanist bir perspektiften bakıldığında, bu gelişmeler bizi teknolojinin hayatımızda oynamasını istediğimiz rol üzerinde düşünmeye davet ediyor. Yapay zeka, bazı yeteneklerimizi aşma ve karmaşık sorunları çözme potansiyeline sahip olsa da, aynı zamanda bizi, sonunda bizi kontrol edebilecek teknolojiler üzerinde kontrolümüzü nasıl sürdüreceğimiz ikilemiyle de karşı karşıya bırakıyor. Aynı zamanda insan nedir sorusuyla da karşı karşıya bırakıyor bizi? Evrendeki rolümüz nedir?
Aschenbrenner'ın ana hatlarını çizdiği gelecek, sağlam teknik temeline rağmen, teknolojinin ortak faydaya hizmet etmesini ve tüm insanların doğuştan gelen onuruna saygı duymasını sağlayan hümanist değerlerin rehberliğinde bir dengeleme gerektiriyor. On yıl boyunca benzeri görülmemiş teknolojik olanaklara doğru ilerlerken, yapay zekadaki gelişmelerin sürdürülebilirlik, eşitlik ve kapsayıcılığa öncelik veren etik bir bağlam çerçevesinde çerçevelenmesi zorunludur. İtalya'daki son G7 toplantısında tartışıldığı gibi, bir dünya otoritesinin bu konuda harekete geçmesi acildir.
Jorge Vilas Díaz Colodrero, Austral Üniversitesi'nde Yapay Zeka ve Hükümet 5.0 Diploma Direktörüdür