Genel

Robotlardan Neden Bu Kadar Korkuyoruz? 15 Uzman Gerçek Tehlikelerin Neler Olduğunu Düşünüyor


Heyecanlı olsanız da olmasanız da, robotlar ve yapay zeka hızla yaklaştığımız bir geleceğin kaçınılmaz bir parçası. Sahte yapay zeka ve kötü niyetli robotlarla dolu kitaplar ve filmler sayesinde, bazı insanlar bu tür teknolojiler tarafından istila edilmiş bir dünyanın olasılığından anlaşılabilir bir şekilde biraz korkuyorlar.

Teknoloji ve ekonomi gibi farklı alanlardaki uzmanların çoğu robotların yükselişiyle ilgili korkularını ifade ettikleri için, yalnız değiller. Bu korkular kesinlikle geçerli olsa da, bu endişelerin teknolojinin yasak değil, iyileştirilebileceği umuduyla dile getirildiğini belirtmek önemlidir.

İşte uzmanların yeni teknoloji çağı başlamadan önce ele almak istedikleri robotlar ve yapay zeka ile ilgili acil endişelerden bazıları.

1. "Otonom silahların son derece korkutucu olduğunu düşünüyorum." - Jeff Bezos

Amazon patronu Jeff Bezos, otomasyonun tehlikesi söz konusu olduğunda fikrini netleştirdi. Otomasyonun insan işleri veya yaşamları için herhangi bir tehdit oluşturduğuna inanmasa da, otonom silahlara daha az güveniyor.

Geçen ay George W. Bush Başkanlık Liderlik Forumu'nda Bezos, otonom silahların kullanılmasını düzenleyen uluslararası anlaşmalar yapılması gerektiğini öne sürdü. Bu anlaşmaların bu tür silahların kullanımını düzenleyeceğine ve teknolojinin bilgisayar korsanlığı ve kötüye kullanımını önleyeceğine inanıyor.

2. "Akıllı cihazların şu anda iletişim kurma yeteneği var ve onları izleyebileceğimizi düşünsek de, bilmemiz mümkün değil." - Profesör Kevin Warwick

Coventry Üniversitesi Araştırma Şansölye Yardımcısı ve sözde "cyborg profesörü" Kevin Warwick, A.I. arasındaki iletişimle ilgili endişelerinden bahsetti. 2017'de Facebook tarafından oluşturulan iki bot kendi dilini geliştirdiğinde ve yaratıcıları tarafından çözülemeyecek bir şekilde iletişim kurduğunda, A.I. iletişim yüzeye çıkmaya başladı.

Warwick böyle bir olayın önemine dikkat çekerken, bilim adamlarının ve mühendislerin kapsamının ötesine bağımsız olarak gelişen izlenmeyen iletişimin daha ileri sonuçları konusunda başkalarını uyarmakta hızlı davrandı.

Facebook açıkça kabul etti ve robotların insanları döngüden uzak tutacak şekilde konuştuğunu fark ettiklerinde deneyi durdurdu.

Yapay zekanın güvenli kullanımını sağlamak için, etkileşimlerinin insan tarafından izlenmesi çok önemlidir ve birçok bilim insanının ilerlemekten kaçınacağı bir şeydir.

3. "[A.I.], insan çıkarlarını ve güvenliğini riske atan son derece hassas ortamlarda adil olmayan ve ayrımcı kararlar verebilir, önyargıları çoğaltabilir veya geliştirebilir ve anlaşılmaz ve beklenmedik şekillerde davranabilir." - Sandra Wachter, Brent Mittelstadt ve Luciano Floridi

Araştırmacılar Sandra Wachter, Brent Mittelstadt ve Luciano Floridi'nin 2017 tarihli bir makalesi, A.I. ile ilgili en büyük endişelerden birinin uyardı. aslında teknolojinin kendisi değil, ona aktardığımız önyargılar. Tüm insanlığa yeterince hizmet edebilecek ve koruyabilecek bir teknoloji yaratmak için, bunun insanlar olarak sahip olduğumuz önyargılardan uzak olması gerektiğini öne sürdüler.

Olayları yetkililere bildirebilen güvenlik robotları ve bu robotların insan kolluk kuvvetlerinin bazı yönlerinde gördüğümüz ırksal önyargılarla programlanıp programlanmayacağına ilişkin endişelerini dile getirdiler. Güvenli teknoloji yaratmak için önce kendi sosyal hastalıklarımızı incelemeliyiz, yoksa bunları makinelerimize aktarırız.

4. "Tam yapay zekanın geliştirilmesi, insan ırkının sonunu getirebilir." - Stephen Hawking

Merhum Stephen Hawking, robotik ve yapay zeka alanındaki ilerlemeleri çevreleyen korkuları hakkında açıkça ve sık sık konuştu. hayatı boyunca teknolojiler. A.I. sonunda o kadar ilerlemiş olacaktı ki tüm insan yaşamının yerini alacaktı.

Onun inancıydı, A.I. sonunda kendini güncelleyebileceği ve insan müdahalesi olmadan gelişebileceği bir karmaşıklık noktasına ulaşacaktı. Bu düzeyde bir zekayı yönetebilen sistemlerden çok uzak olsak da, geleceğin teknolojilerini yaratan mühendisler için dikkate değer bir şey.

5. "Yapay zeka, araba kazalarının, uçak kazalarının, hatalı ilaçların veya kötü yemeklerin olmadığı bir şekilde insan uygarlığının varlığı için temel bir risktir." - Elon Musk

Elon Musk tartışmasız birçok ileri ve yenilikçi teknolojinin ön saflarında yer alsa da bu, A.I.'nin ilerlemelerine ilişkin kendi korkularının olmadığı anlamına gelmez. ve otonom teknoloji. Aslında, A.I. insan ırkının devam eden hayatta kalması için çok gerçek bir tehdit oluşturabilir.

Geçen ay kadar yakın bir zamanda, A.I.'deki astronomik gelişmeler konusunda uyardı. İnsanların gelecekte makinelerin köleleştirildiğini görebiliyordu. BelgeseldeBu Bilgisayara Güveniyor Musunuz?Musk, süper zeki makinelerin önümüzdeki beş yıl içinde ortaya çıkacağına inandığını söyleyecek kadar ileri gitti. Umuyoruz ki Musk ve diğerlerinin endişeleri ele alınacak ve yakın zamanda herhangi bir Skynet benzeri durum için endişelenmemize gerek kalmayacak.

6. "En çok akıllı yapay zeka için değil aptal yapay zeka konusunda endişeliyim." - Toby Walsh

Geçen yıl Yeni Güney Galler Üniversitesi Yapay Zeka Profesörü Tony Walsh, Birleşmiş Milletler'e "katil robotların" yasaklanması çağrısında bulunan bir dilekçe imzaladı. Dilekçe ayrıca Elon Musk, Google'ın DeepMind şirketinden Mustafa Süleyman ve dünyanın dört bir yanından diğer bilim adamları ve akademisyenler tarafından imzalandı.

Dilekçeyi desteklemesine rağmen, Walsh gerçek korkusunun süper zeki A.I. ama "aptal yapay zeka" vicdan veya sonuçları dikkate alınmadan kullanılır.

Daha iyi robotik ve yapay zekaya yönelik yarışımıza devam edeceksek, her olasılığı göz önünde bulundurmamız ve insanların güvenliğini sağlamak için buna göre planlama yapmamız gerektiğine inanıyor.

7. "Kullandığımız eğitim verileri konusunda şeffaf olmamız ve bunlarda gizli önyargılar aramamız önemlidir, aksi takdirde önyargılı sistemler oluşturuyoruz." - John Giannandrea

İnsan önyargılarının yarının teknolojisi üzerindeki etkisine dair bir başka uzman uyarısı da Google'dan John Giannandrea. Teknolojimize programladığımız önyargılardan korkan, sürekli büyüyen bilim adamları, akademisyenler ve mühendislerden sadece biri.

Özellikle Giannandrea, tıbbi karar vermede kullanılacak akıllı teknolojilerde tam şeffaflık çağrısında bulunuyor. İnsanları, nasıl çalıştıklarını veya arkasındaki derin öğrenme sistemlerini tam olarak açıklamadan akıllı kara kutu teknolojilerine güvenmemeleri konusunda uyarıyor.

8. "" Sorun bilinç değil, yeterlilik. Hedeflere ulaşmada inanılmaz derecede yetkin makineler yaparsınız ve bu hedeflere ulaşmaya çalışırken kazalara neden olurlar. " - Stuart Russell

Robotik ve yapay zeka üzerine Dünya Ekonomik Forumu Konseyi başkan yardımcısı Stuart Russell, A.I. söz konusu olduğunda çözmemiz gereken en büyük sorunlardan birinin olduğuna inanıyor. ve otonom teknolojiler, ne kadar hedef odaklı oldukları ve bu hedefe ulaşmak için neler yapabilecekleridir.

2016'da kırmızı ışığa sıkışmış otonom bir araba örneğini kullanarak sorunu ortaya attı. Araba trafik sistemine girebilir ve ışığı yeşile çevirerek hedefini tamamlamasına izin verirse, potansiyel olarak hayatları riske atabilir.

Russell ve diğerleri için, yalnızca robotların insan hayatını doğrudan korumasını sağlamak yeterli değil - onlara hayatları dolaylı olarak korumayı da öğretmeliyiz. Şu anda, programlamanın kesin hedef odaklı doğası, kontrol edilmediği takdirde insan hayatına yönelik risklerin önünü açabilecek çok sayıda kör noktaya sahiptir.

9. "Araştırmamız, askeri olmayan robotların bile zarar verecek şekilde silah haline getirilebileceğinin kanıtını gösteriyor." - Cesar Cerrudo ve Lucas Apa

Siber güvenlik firması IOActive'den araştırmacılar, geçen yıl ev güvenlik teknolojileri üreticilerini sistemlerindeki güvenlik açıkları konusunda uyardı. Araştırmacılar, Cesar Cerrudo ve Lucas Apa, evdeki zararsız robotların bilgisayar korsanları tarafından silah haline getirilebileceğini öne sürdüler.

Ev robotiklerinde ve yapay zekada, sıradan hale gelmeden önce güvenliğin artırılması çağrısında bulunuyorlar, aksi takdirde dünyanın dört bir yanındaki evler kendilerini saldırılara karşı savunmasız hale getirebilir. Ancak sorun sadece evleri etkilemiyor. Fabrikalardaki endüstriyel robotların da bilgisayar korsanlığına karşı savunmasız olduğu bulundu, bu da üretim hatlarının ve çıktılarının kalitesinin büyük ölçüde tehlikeye atılabileceği anlamına geliyor.

10. "Otomatik ticaret stratejilerinin davranışındaki gelişmiş optimizasyon teknikleri ve öngörülebilir kalıplar, piyasa fiyatlarını manipüle etmek için içeriden kişiler veya siber suçlular tarafından kullanılabilir." - Mark Carney

Tipik olarak robotlarla bağlantılı olmayan bir sektör finans sektörüdür, ancak finans sektörünün önde gelen isimleri şimdi otomasyon konusundaki korkuları hakkında konuşuyor. İngiltere Bankası Başkanı ve Finansal İstikrar Kurulu Başkanı Mark Carney, finans sektöründeki otomasyonun bilgisayar korsanlarının ekonomiye müdahale etmesine izin verebileceği konusunda uyardı.

2025 yılına kadar küresel finans şirketlerinde 230.000 işçinin işlerini A.I. Ancak Carney ve FSB, yeni teknolojilere bu derecede bağlı olmanın küresel finans sistemini siber saldırılara karşı savunmasız hale getirebileceği konusunda uyarıyor.

11. "İnsanların genel olarak yeniliğin ne yapacağı konusunda coşku duyduklarından daha fazla korkmaları gerçekten kötü." - Bill Gates

Microsoft'un kurucusu Bill Gates, kendisinden korkmaktan başka korkacak hiçbir şeyimiz olmadığı fikrini alıyor gibi görünüyor. Gates, Elon Musk'ın robotlar ve yapay zeka ile ilgili endişelerinin çoğunu kabul etse de, insanların teknolojideki gelişmelere düpedüz korkuyla değil coşkuyla yaklaşmaları gerektiği fikrini dile getirdi.

Gates süper zeka konusundaki korkularını kabul ederken, buna göre plan yaparsak ve bu korkuları önceden ele alırsak insanlığın endişelenecek bir şeyi olmayacağına inanıyor gibi görünüyor.

12. "Sahipleri için para kazanmak üzere tasarlanmış yapay zekalar tarafından ekonominin feci şekilde bozulması." - Dr. Andras Kornai ve Dr. Daniel Berleant

Geçen yıl TechEmergence, halkın farkında olması gereken en büyük korkuların ne olduğuna inandıklarını öğrenmek için robotlar ve yapay zeka alanlarındaki önde gelen araştırmacılar ve bilim adamları üzerinde bir anket yaptı. Doktorlar Andras Kornai ve Daniel Berleant, finans sektöründeki kırılganlıklara birçokları tarafından kabul edilmeyen meşru bir endişe olarak işaret ettiler.

Kornai, finansal algoritmaların, her ne pahasına olursa olsun kârı korumak ve artırmak için programlandığından, insanların çıkarlarını dikkate almadığından endişeliydi. Berleant da benzer şekilde yanıt verdi ve A.I. birçokları pahasına ayrıcalıklı bir azınlığın servetini artırmak için kullanılabilir.

13. "Otomasyonun zorluklarını ele almadığımız sürece, sosyal hareketlilik daha da geri alınabilir." - Sör Peter Lampl

Kornai ve Berleant, teknolojideki ilerlemelerin varlıkları sahip olmayanlardan nasıl daha fazla ayırabileceğine işaret eden tek kişiler değil. Sutton Trust ve Education Endowment Foundation'dan Sir Peter Lampl, otomasyonun işçi sınıfı kol emekçileri için diğer gruplardan daha fazla bir tehdit olduğuna işaret etti.

Otomasyonun üst ve alt sınıflar arasındaki boşluğu genişletebileceğine inanıyor, çünkü manuel iş, bir sınıfın tamamını geçimini sağlamak için gerekli araçlara sahip olmadan bırakan makineler tarafından üstleniliyor. İnsan emeğini robotik rakiplerinden ayıracak ve insan işçileri daha değerli kılacak iletişim gibi "yumuşak becerilere" daha fazla yatırım yapılması çağrısında bulunuyor.

14. "Yapay zekadaki gelişmeler belirli türden sosyal sorunlar yaratacak veya onları daha da kötüleştirecek." - Jerry Kaplan

Çok satan yazar ve A.I. Uzman Jerry Kaplan, teknolojideki ilerlemelerin bizi toplumumuzda önceden var olan sorunları incelemeye zorlayacağına inanıyor ve haklı olarak. Teknoloji sorumlu ve güvenli bir şekilde kullanılacaksa, başkalarına zarar vermek isteyenler tarafından kullanılmasını önlemek için her türlü önlem alınmalıdır.

Bu bağlamda Kaplan, A.I. ve robotlar kendi içlerinde bir tehdit olarak değil, suçlular ve diğerleri tarafından kullanılabilecek potansiyel olarak tehlikeli bir araç. Kaplan'a göre bunu önlemenin tek yolu, toplumumuzun altında yatan sorunları ele almaktır.

15. "Robot ne kadar güçlü olursa, risk de o kadar yüksek olur. Gelecekte robotların özerkliği varsa ... bu bir felaket reçetesi." - Selmer Bringsjord

Rensselaer Polytechnic Institute'tan bir bilim adamı olan Selmer Bringsjord, hem bir makinenin zarar verme yeteneği hem de insanların bir makineyi zarar verecek şekilde programlayabilmesiyle ilgileniyor. Kesinlikle zor bir muamma.

Bu makaledeki diğer uzmanların da ifade ettiği gibi, otonom makinelerin hedeflerini gerçekleştirme girişimlerinde kasıtsız olarak insanlara zarar vermesine karşı koruma sağlamak çok önemlidir. Aynı şekilde, makinelerin kötüye kullanılabilecek veya bozulabilecek güvenlik açığı olmadığını da belirlemeliyiz. Doğal olarak, tüm bu sorunların ele alınması ve dinlenmeye bırakılması için daha önümüzde uzun bir yol var. O zamana kadar, araştırma, bilim ve teknoloji alanlarındaki liderlerin endişeleri hakkında konuşmaya devam etmeleri ve gelecekteki teknolojileri iyileştirmenin yollarını önermeleri önemlidir.


Videoyu izle: İLK DEFA BİR ROBOT MAKALE YAZDI. YAPAY ZEKA TEKNOLOJİSİ (Eylül 2021).