Anthropic AI inkişafının yavaşladılması ehtimalını müzakirəyə çıxarır
Anthropic yeni yayımladığı “When AI Builds Itself” hesabatında süni intellekt sahəsində getdikcə daha çox müzakirə olunan “recursive self-improvement” — yəni AI sistemlərinin özlərindən daha güclü versiyaların hazırlanmasında birbaşa iştirak etməsi riskinə diqqət çəkib. Şirkət hesab edir ki, AI artıq öz inkişaf prosesini sürətləndirməyə başlayıb və gələcəkdə insan müdaxiləsi olmadan öz varislərini hazırlaya bilən sistemlər ortaya çıxa bilər.
Anthropic-in açıqladığı məlumatlara görə, hazırda şirkətin əsas kod bazasına əlavə olunan kodların 80%-dən çoxu Claude tərəfindən yazılır. Şirkət həmçinin mühəndislərinin əvvəlki illərlə müqayisədə hər rübdə təxminən 8 dəfə daha çox kod hazırladığını bildirir. Anthropic bunu AI sistemlərinin artıq AI inkişafını sürətləndirməsinin ilkin nümunəsi kimi qiymətləndirir.
Bu səbəbdən şirkət gələcəkdə zərurət yaranacağı halda qabaqcıl AI modellərinin inkişafının koordinasiyalı və yoxlanıla bilən şəkildə müvəqqəti dayandırılması imkanının müzakirə olunmasını təklif edir. Anthropic-in mövqeyinə görə, belə bir addım yalnız bütün aparıcı AI laboratoriyalarının iştirakı və beynəlxalq nəzarət mexanizmləri ilə mümkün ola bilər. Şirkət bunu nüvə silahlarına nəzarət sazişlərinə bənzər qlobal əməkdaşlıq modeli ilə müqayisə edir.
Lakin tənqidçilər arasında skeptik yanaşmalar da var. ABŞ administrasiyasının AI məsələləri üzrə müşaviri David Sacks Anthropic-in AI-ni nüvə silahları ilə müqayisə etməsini sərt tənqid edərək bunu hökumət müdaxiləsini artırmağa yönəlmiş şişirdilmiş ritorika kimi qiymətləndirib.
Noah Giansiracusa isə Scientific American-a açıqlamasında Anthropic-in çağırışının səmimiliyinə şübhə etdiyini bildirib. Onun sözlərinə görə, şirkətin rəhbəri Dario Amodei indiyədək dəfələrlə AI inkişafının sürətlə davam etməsini müdafiə edib və buna görə Anthropic-in həqiqətən yavaşlamaq istədiyinə inanmadığını deyib: “Mən bunun inkişafı dayandırmaq üçün səmimi çağırış olduğunu düşünmürəm.”
Daha çox
Texnologiya
kateqoriyasından
