17 April 2024

Artificial Intelligence dan Kapitalisme

Umat manusia dapat menikmati masa depan yang sejahtera dengan AI. Setelah berhasil menciptakan sistem AI yang kuat, sekarang kita dapat menikmati "musim panas AI" di mana kita menuai hasilnya, merancang sistem ini untuk kepentingan semua orang, dan memberikan kesempatan kepada masyarakat untuk beradaptasi. Masyarakat telah menahan teknologi lain dengan potensi efek bencana pada masyarakat. Kita bisa melakukannya di sini. Mari nikmati musim panas AI yang panjang, tanpa terburu-buru tanpa persiapan menuju musim gugur.
0Shares

Pakar teknologi dan tokoh bisnis telah menerbitkan surat terbuka yang meminta agar pengembangan Kecerdasan Buatan dihentikan setidaknya selama enam bulan. Sebuah bahaya nyata? Masalah kapitalisme dan teknologi baru.

Kondisi produksi dan pertukaran borjuis, sistem kepemilikan borjuis, seluruh masyarakat borjuis modern ini, yang telah melahirkan alat-alat produksi dan pertukaran yang begitu kuat, mirip dengan murid tukang sihir yang tidak tahu bagaimana mengendalikan kekuatan-kekuatan neraka yang dia miliki. dibuat. dipanggil. -Karl Marx dan Friedrich Engels, Manifesto Komunis

“Haruskah kita mengambil risiko kehilangan kendali atas peradaban kita?” Itu adalah pertanyaan tidak menyenangkan yang ditanyakan oleh beberapa perwakilan terpenting industri teknologi dunia tentang Kecerdasan Buatan.

Sekelompok pakar teknologi perangkat lunak dan tokoh bisnis relevansi karakter seperti Elon Musk dan Steve Wozniak (salah satu pendiri Apple) menerbitkan sebuah surat terbuka meminta semua laboratorium Kecerdasan Buatan untuk menghentikan pelatihan dan mengembangkan teknologi baru yang lebih kuat daripada chatGPT-4. Mereka meminta jeda enam bulan untuk semua penyelidikan yang sedang berlangsung.

Berita tentang perkembangan Artificial Intelligence yang semakin berkembang telah terakumulasi selama beberapa tahun sekarang.

Dan, sekarang, jutaan dari kita tahu bahwa beberapa orang utama yang bertanggung jawab atas teknologi baru ini memperingatkan bahwa “kemanusiaan” (tidak lebih dan tidak kurang) akan berada dalam bahaya.

Fakta bahwa banyak dari firma ini berasal dari pengusaha yang tidak ada hubungannya dengan penyelidikan itu sendiri, seperti Elon Musk, tidak banyak berubah.

Orang-orang dengan lebih banyak prestasi dapat tidak dipercaya dalam cara mereka menjual diri dan apa yang dihasilkan orang lain daripada kontribusi mereka terhadap sains dan teknologi. Bahkan pintar melakukannya.

Namun ada dua hal dalam surat ini yang sangat tidak biasa. Pertama, begitu banyak pakar yang menjadi bagian dari alarm ini sehingga mereka bukan sekadar pedagang gagasan orang lain.

Kedua, sangat tidak umum untuk melihat bahwa para kapitalis dengan semua sumber daya untuk tetap berada di depan persaingan dalam perkembangan teknologi baru menyerukan untuk menghentikannya. Hal-hal ini hanya terjadi ketika pengusaha merasakan bahaya penderitaan secara langsung akibat dari aktivitas mereka sendiri.

Semua hubungan sosial modern dimediasi oleh teknologi komunikasi, internet, teknologi informasi. Logistik, pengaturan produksi, distribusi kebutuhan dasar bahkan kebutuhan afektif dan seksual. Peringatan dalam “surat” itu tampaknya seperti ini: umat manusia dapat kehilangan kendali atas beberapa pengungkit fundamental peradaban kontemporer.

Itu tidak sedikit dan terdengar berlebihan. Tetapi pada titik ini tampaknya lebih bijaksana untuk menganggapnya serius. Ini membantu untuk mengingat betapa sulitnya bagi kebanyakan dari kita untuk mendengarkan dengan cukup hati-hati peringatan dini tentang keseriusan Covid-19.

Anda harus tahu bahwa motivasi surat ini mungkin murni komersial: banyak perkembangan utama AI baru berasal dari perusahaan kecil, yang mungkin membayangi monster seperti Apple dan Google.

Budaya fiksi ilmiah tampaknya beberapa dekade lebih maju dari masalah kapitalisme modern. Jika sistem pandemi dan pengawasan merujuk kita pada distopia, Kecerdasan Buatan mewujudkan drama eksistensial yang ditampilkan oleh cyberpunk.

Film klasik seperti Blade Runner dan Ghost in the Shell menunjukkan kepada kita masa depan yang tidak terlalu jauh di mana karakter mereka harus menghadapi konflik karena tidak dapat dengan jelas menetapkan batas antara manusia dan buatan, antara kepribadian dan tiruannya.

Keduanya meninggalkan kesimpulan yang mengerikan: bahwa perbedaan antara satu hal dan hal lainnya tidak mungkin lagi. Kami jauh dari itu, yang masih merupakan fiksi ilmiah, tetapi masalah kami mulai terlihat seperti fiksi ilmiah. Dan bukan untuk yang ditulis oleh orang-orang yang optimis dari genre tersebut. Meskipun demikian, untuk saat ini tidak masuk akal untuk menganggap konsep “kecerdasan” terlalu harfiah, seperti halnya fiksi ilmiah. Masalahnya adalah bahwa beberapa teknologi mungkin lepas kendali dalam waktu yang tidak lama lagi,

Marx mengatakan bahwa pemujaan hubungan sosial kapitalis menyiratkan bahwa hubungan antar manusia disajikan kepada kita sebagai hubungan antar benda.

Harga, misalnya, tampak bagi kita sebagai hubungan antara uang dan komoditas, padahal sebenarnya mereka adalah hubungan antara produsen, pembeli dan penjual. Peringatan tentang Kecerdasan Buatan tampaknya menimbulkan masalah baru: bahwa hubungan sosial antara manusia yang dimediasi oleh benda (ponsel, internet, dll) mulai menjadi hubungan antara manusia dan benda, seringkali tanpa kita sadari.

Kapitalisme dan Teknologi

Momen dalam sejarah kita ini bisa menjadi babak pertama dari debat yang sangat panjang, yang akan berlangsung selama beberapa generasi. Ini bukan pertama kalinya kemajuan dalam kekuatan produktif mengarah pada bahaya yang sangat besar, pada kekuatan destruktif. Bahan bakar fosil adalah lompatan besar ke depan yang menyebabkan krisis iklim saat ini.

Perkembangan ilmiah yang tidak tertarik kemudian mengizinkan senjata nuklir. Jika bahaya perang nuklir tidak pernah sepenuhnya hilang dan hari ini tampaknya kembali, peringatan beberapa dekade yang lalu tentang perubahan iklim mulai menjadi bencana dan kenyataan saat ini.

Setidaknya untuk saat ini, peringatan surat terbuka itu jangan dianggap enteng. Sekarang, hanya dengan membaca surat itu Anda dapat melihat sesuatu yang penting. Seperti perkembangan sebelumnya lainnya, teknologi itu sendiri bukanlah satu-satunya bahaya.

Bentuknya yang khusus kapitalis, yang berorientasi pada perebutan keuntungan yang kacau, adalah masalah utamanya. Melawan segala rintangan, sudah di paragraf pertama surat terbuka, karakter seperti Elon Musk membuat permohonan anti-kapitalis yang sangat jelas:

“Menurut Asilomar AI Principles yang didukung secara luas, AI tingkat lanjut dapat mewakili perubahan besar dalam sejarah kehidupan di Bumi dan harus direncanakan serta dikelola dengan sumber daya dan perawatan yang tepat.

Sayangnya, tingkat perencanaan dan manajemen ini tidak terjadi, meskipun dalam beberapa bulan terakhir laboratorium AI telah dikunci dalam perlombaan di luar kendali untuk mengembangkan dan menerapkan pikiran digital yang semakin kuat yang tidak dapat dipahami oleh siapa pun, bahkan pembuatnya. memprediksi atau mengendalikan secara andal.

Peringatan tentang “perlombaan di luar kendali untuk mengembangkan dan mengimplementasikan pikiran digital” adalah deskripsi yang cukup akurat tentang cara kerja kapitalisme itu sendiri. Permintaan untuk “perencanaan dengan sumber daya dan perhatian yang sesuai”, permintaan masyarakat yang bukan masyarakat saat ini.

Para penandatangan berbicara tentang perlunya membuat serangkaian protokol keamanan yang bersifat regulasi. Selain itu, kepatuhan terhadap protokol ini harus dapat diaudit oleh pakar eksternal.

“Kontrol” semacam ini telah dicoba di bawah rezim kepemilikan pribadi atas alat-alat produksi berkali-kali. Mereka selalu mirip dengan upaya membendung air pasang dengan tangan: jika ada air yang tersisa di antara jari-jari, arus akan terus mengalir.

Batasannya selalu menjadi kedaulatan mutlak milik kapitalis. Jika serikat pekerja dan undang-undang perburuhan berhasil mengurangi eksploitasi jutaan orang, bentuk terburuk dari perbudakan upah selalu muncul kembali dalam bentuk baru dan di tempat baru.

Jika peraturan dan protokol lingkungan sebagian menghentikan penghancuran planet ini, itu akan kembali berlaku dengan “industri” baru (seperti penambangan mata uang kripto) dan di negara-negara dengan sumber daya yang belum dijarah. Yang terakhir tanpa penghasil emisi CO2 yang besar akan berhenti begitu.

Surat tersebut juga mengungkapkan perlunya pembuatan kerangka peraturan, yang mempertimbangkan beberapa bentuk pelacakan AI. Tidak hanya itu, tetapi juga menyerukan pembentukan institusi untuk menghadapi perubahan politik dan ekonomi yang dramatis yang dapat ditimbulkannya.

Beberapa pendukung “pasar bebas” yang paling terkenal dan fanatik seperti Elon Musk menghidupkan kembali utopia lama abad ke-20 tentang kapitalisme yang dirasionalisasi dan diatur. Hal yang sama yang hilang ketika bahaya “sosialisme nyata”, dari rezim birokrasi yang menyebut diri mereka “komunis”, menghilang.

Teknologi dan konsekuensinya juga merupakan hubungan sosial yang spesifik. Apa yang dalam kondisi tertentu bisa menjadi manfaat yang sangat besar bagi umat manusia berubah menjadi kemunduran dan barbarisme pada orang lain.

Marx telah secara klasik mengatakannya sehubungan dengan mesin pabrik: apa yang secara rasional dapat mempersingkat waktu kerja hanya memperpanjangnya bagi mereka yang cukup beruntung untuk terus bekerja.

“Singularitas”, Tenaga Kerja Terasing dan Kecerdasan Buatan.

Mengenai robotika, Kecerdasan Buatan, dan teknologi baru, sebagian besar refleksi Marxis telah didedikasikan untuk mempelajari dampaknya terhadap dunia kerja. Lebih khusus lagi, di dunia kerja yang terasing. Dalam dampak khususnya pada proletariat kontemporer, pada eksploitasi kapitalis dan produksi nilai dan nilai pakai.

Secara umum, kita dapat mengatakan bahwa pernyataan tentang hilangnya kelas pekerja, teori tentang kapitalisme yang tidak bergantung pada eksploitasi tenaga kerja, telah benar-benar dan sepenuhnya disangkal oleh fakta.

Kemajuan mesin telah mengangkat masalah hilangnya pekerjaan sejak abad ke-18, dan bahkan Adam Smith dan David Ricardo telah menulis tentangnya.

Lebih dari 40 tahun telah berlalu sejak André Gorz mempertanyakan “selamat tinggal kepada proletariat?” Banyak yang mengubah pertanyaan itu menjadi penegasan dan kehidupan itu sendiri menjawab dengan jawaban yang sangat negatif.

Kapital dan kebutuhannya akan peningkatan harga diri adalah batas sosial bagi “robotisasi” produksi, karena kerja manusia terus menjadi satu-satunya sumber nilai dan, karenanya, nilai lebih. Untuk pengembangan lebih lanjut, kami mengundang Anda untuk membaca “Los límites de la automatización capitalista”, oleh Marcelo Giecco.

Namun surat terbuka itu menimbulkan masalah lain “Haruskah kita mengotomatiskan semua pekerjaan, bahkan yang sukses?” dia bertanya-tanya. Perhatian utamanya bukan pada tenaga kerja yang teralienasi, tetapi pada aktivitas manusia yang tidak teralienasi.

Apa yang kita bicarakan ketika kita berbicara tentang keterasingan kerja? Marx menulis:

“Ini tidak seperti dalam kasus instrumen, yang dijiwai pekerja seperti organ, dengan keterampilan dan aktivitasnya sendiri dan oleh karena itu pengelolaannya bergantung pada keahliannya.

Sebaliknya, mesin, pemilik alih-alih pekerja keterampilan dan kekuatan, itu sendiri berbudi luhur, memiliki jiwanya sendiri yang hadir dalam hukum mekanis yang beroperasi di dalamnya aktivitas para pekerja, direduksi menjadi sekadar abstraksi dari aktivitas, ditentukan dan diatur dalam segala hal oleh pergerakan mesin, dan bukan sebaliknya.

Sains, yang memaksa anggota mesin yang tidak bergerak untuk beroperasi sebagai robot sesuai dengan tujuan, tidak ada dalam kesadaran pekerja, tetapi beroperasi melalui mesin, sebagai kekuatan asing, sebagai kekuatan mesin itu sendiri atas itu. satu” (Marx dikutip oleh Roberto Sáenz dalam “Logika keuntungan mengancam umat manusia; Marx, Elemen fundamental untuk kritik ekonomi politik”, 1857/8, Siglo Veintiuno Editores, Mexico, 1980, Grundrisse, 219).

Dalam produksi kapitalis, penemuan, kreativitas, keterampilan; segala sesuatu yang dapat membuat pekerjaan memuaskan diambil dari produser. Mesin itu adalah “pemilik alih-alih pekerja keterampilan dan kekuatan, mesin itu sendiri berbudi luhur.”

Tapi mesin, otomat, memiliki seorang penemu, seorang pengatur, seorang perencana. Penggunaan kekuatan alam melalui sains hingga hari ini masih merupakan penerapan pengetahuan yang dikumpulkan dari generasi ke generasi oleh individu-individu tertentu.

Tidak peduli seberapa otomatis produksinya, manajemennya tetap berada di tangan orang. Apa yang dalam karya artisan dan tradisional merupakan fungsi dari individu yang sama, otak dan tangan, telah menjadi dua kelas sosial yang berbeda.

Kelas kapitalis, sebagai penyelenggara proses produksi, tidak hanya secara historis memonopoli kepemilikan alat-alat produksi. Itu juga berhasil memonopoli sebagian besar aktivitas kreatif, bukan mengasingkan. Jika si pekerja merasa bahwa hasil tangannya sendiri bukanlah miliknya, si kapitalis merasa bahwa hasil tangan orang lain tidak mungkin bukan miliknya.

Namun, dengan penyebaran sejarah pendidikan dan spesialisasi, semakin banyak lapisan pekerja yang sangat terspesialisasi telah muncul. Badan teknis menengah (seperti pemrogram), terkadang dengan gaji yang relatif sangat tinggi, menjadi lebih banyak.

Perannya, yang hingga saat ini merupakan bagian dari proses kreatif dan penyutradaraan, sedang mengalami proses keterasingan baru yang terus berkembang. Mendelegasikan lebih banyak lagi kepada karyawan ini beberapa fungsi mereka, manajemen puncak perusahaan kapitalis semakin murni bersifat parasit.

Contoh paling lengkapnya adalah pemegang saham perseroan terbatas publik, yang berdedikasi untuk mengumpulkan uang tanpa melakukan apa-apa. Hak yang diperoleh, tentu saja, karena memiliki banyak uang sebelumnya.

Teknologi informasi belum tentu merevolusi dunia produksi melainkan organisasi produksi. Ini adalah fungsi utama masyarakat kapitalis yang bisa terancam hilang dari kemanusiaan menurut lebih dari 700 penandatangan.

Abad yang lalu ada pembicaraan tentang momen “singularitas” di mana kecerdasan non-manusia, “robot”, akan mengambil kendali masyarakat secara permanen.

Bagaimanapun, yang menarik bagi kami adalah menetapkan posisi “antropologis” kami mengenai lokasi umat manusia di kosmos, bahwa jika dikesampingkan, jika umat manusia kehilangan tempatnya sebagai subjek sejarah, konsep-konsep yang kita hadapi di teks ini mereka akan kehilangan makna dan kita akan jatuh ke dalam semacam distopia dalam gaya “Manusia Usang”, oleh Günther Anders, di mana mesin mendominasi umat manusia, mencerminkan salah satu tren dalam pekerjaan tetapi dengan cara yang sepenuhnya sepihak.

Karena, pada akhirnya, kerja manusia, tenaga kerja dan pekerja, adalah subjek dari hubungan ini. Tenaga kerja manusia adalah faktor aktif dalam penciptaan kekayaan dan transformasi dunia, tidak peduli seberapa “indah” atau “otomatis” hubungan ini menjadi “Logika keuntungan mengancam umat manusia”).

Tidak, umat manusia belum kehilangan kendali atas dirinya sendiri. Bisakah Anda kehilangannya dalam jangka pendek atau menengah? Itulah pertanyaan yang diajukan.

Mudah membayangkan “pemberontakan” mesin terhadap kemanusiaan dalam format yang mirip dengan pemberontakan manusia terhadap penguasa manusianya.

Ini adalah pengaruh sinema dan sastra. Jika Isaac Asimov’s I, Robot memelopori pendekatan tersebut, mungkin mesin nakal yang paling ikonik adalah Skynet, dari saga film Terminator.

Untungnya, bukan itu yang terjadi. Tapi rejeki kita sedikit jangkauannya. Kita dapat memiliki banyak masalah yang sangat serius, meskipun robot pembunuh dengan senapan mesin bukanlah salah satunya.

“Pada hari Selasa, 23 April 2013, saat jam menunjukkan pukul 13:07, para pedagang di lantai bursa New York Stock Exchange melihat pesan Twitter berikut di monitor mereka: Terbaru: Dua ledakan di Gedung Putih; Barack Obama, terluka.

Dalam beberapa saat pasar mengalami kejatuhan yang memusingkan dan dalam 90 detik berikutnya indikator Dow Jones kehilangan 160 poin, menghapus keuntungan hari itu.

Dalam beberapa menit, pesan itu dipastikan salah. Itu telah dihasilkan oleh peretas yang menembus akun kantor Associated Press. Dan saat angin kencang mulai, tiba-tiba semuanya kembali normal. Tetapi pada menit-menit hiruk pikuk keuangan itu, kerugian lebih dari 140 miliar dolar dihasilkan.

Episode ini secara unik mengilustrasikan salah satu masalah utama yang saat ini dihadapi globalisasi keuangan, karena penggunaan sistem kecerdasan buatan (AI) semakin dalam.

Saat ini, sekitar 70 persen transaksi di pasar keuangan dilakukan dengan menggunakan komputer institusional. Dan, tentu saja, kecepatan transaksi meroket.

Di pasar saham paling maju di dunia, sekuritas berada di tangan pelaku pasar selama rata-rata 22 detik sebelum melakukan transaksi lagi. Spekulasi otomatis sudah mendominasi pasar keuangan (Alejandro Nadal, “Berspekulasi dengan kecerdasan buatan”).

Transaksi pasar saham terkomputerisasi. Organisasi produksi dan distribusi barang di seluruh dunia terkomputerisasi. Semua pertukaran budaya terkomputerisasi. Bahkan senjata baru sudah terkomputerisasi.

Jika umat manusia kehilangan kendali atas salah satu dari hal-hal ini, irasionalitas manusia yang khas dari kapitalisme dapat ditambahkan ke kecerdasan non-manusia.

Jika peringatan Musks dan Wozniaks benar, kita tidak bisa hanya kehilangan kendali atas aspek arah masyarakat dan aktivitas non-alienasi yang merupakan “kebutuhan vital” (Marx). Mereka juga dapat memperburuk banyak fitur kapitalisme yang paling merusak: krisis, irasionalitas, perang, dan lain sebagainya.

Kecerdasan Buatan, Kapitalisme, Budaya, dan Demokrasi

Sebuah artikel yang sangat menarik muncul di New York Times mengenai hal ini, setelah penerbitan surat terbuka tersebut. Ditandatangani oleh Yuval Harari, Tristan Harris dan Aza Raskin diterjemahkan ke dalam bahasa Spanyol oleh La Nación. Secara umum, masalah besar dari artikel tersebut adalah optimismenya (naif atau sinis, tidak masalah) dalam “memeriksa” kapitalisme. Tapi itu memiliki klaim yang menarik. Yang terpenting, klaim bahwa sudah ada preseden untuk masalah yang ditimbulkan oleh Kecerdasan Buatan, algoritme jejaring sosial:

Kontak pertama antara AI dan manusia adalah media sosial, dan manusia hilang. Tapi kontak pertama itu setidaknya meninggalkan kita dengan rasa pahit tentang apa yang menanti kita. Di jejaring sosial, AI primitif tidak digunakan untuk menghasilkan konten, tetapi untuk membuat konten buatan pengguna.

AI yang memberi makan umpan berita kami adalah yang memilih kata, suara, dan gambar yang mencapai retina dan gendang telinga kami, memilih kata-kata dengan potensi terbesar untuk menjadi viral, dampak terbesar, dan partisipasi terbesar dari pengguna lain.

Meski primitif, AI di balik media sosial sudah cukup untuk menciptakan tirai ilusi yang memicu polarisasi sosial, mendinamit kesehatan mental kita, dan membuat demokrasi compang-camping.

Jutaan orang mengira ilusi ini sebagai kenyataan. Amerika Serikat memiliki teknologi komputer terbaik di dunia, tetapi warganya tidak dapat lagi menyetujui pemenang pemilu.

Meskipun semua orang sudah menyadari masalah yang ditimbulkan oleh media sosial, tidak ada yang menangani risiko tersebut karena begitu banyak institusi sosial, ekonomi, dan politik kita telah terjerat.

Memang, jejaring sosial telah memungkinkan penyebaran proposal dan teori yang paling delusif: pembumian datar, pandemi yang “diciptakan”, chip dalam vaksin, hidupnya kembali Kennedy untuk mendukung Trump, Semua ini disebut “era pasca-kebenaran” atau berita palsu.

Artikel tersebut, bagaimanapun, adalah sepihak ketika hanya menyalahkan teknologi baru atas kenyataan ini. Bukan mereka dalam diri mereka sendiri tetapi perkembangan dan penggunaan kapitalis khusus mereka yang telah membuka jalan bagi fenomena baru ini.

Harus diingat bahwa pada saat itu, Twitter mengakui bahwa algoritmenya menguntungkan penyebaran pesan sayap kanan.

Berita palsu, bukanlah hal baru dalam dirinya sendiri. Memang benar apa yang dikatakan penulis artikel tersebut: “Secara umum, manusia tidak memiliki akses langsung ke realitas: kita diselimuti oleh budaya dan kita mengalami realitas melalui prisma budaya.

Pendapat politik kita dibentuk oleh panasnya laporan surat kabar dan obrolan dengan teman. Preferensi seksual kita dimodifikasi oleh seni dan agama. Propaganda fasisme anti-Semit lama adalah berita palsu murni yang dimediasi oleh media cetak dan kertas, bukan internet dan ponsel. Di era jejaring sosial, yang berubah adalah cara berita palsu,”

“Prisma budaya” yang mereka bicarakan juga merupakan institusi: Negara, Gereja, partai, dll. Berita palsu lama biasanya muncul dan menyebar secara terpusat: kepemimpinan Kristen selama berabad-abad menyebarkan anti-Semitisme secara luas, kepemimpinan fasis menggunakannya pada abad ke-20.

Delusi percaya ditentukan oleh hubungan kepercayaan yang kurang lebih langsung dalam organisasi yang terdiri dari orang-orang dengan wajah dan nama.

Dengan jejaring sosial, “pasca-kebenaran” mengambil bentuk lain: secara anonim, sebuah “berita” muncul yang diyakini banyak orang meskipun tidak tahu siapa yang menerbitkannya, jejaring sosial dan algoritme mereka mendorong kebohongan tanpa tanggung jawab yang dapat diidentifikasi.

Aktor baru ditambahkan ke institusi lama: perusahaan komputer, kapitalis teknologi baru. Demagogi dari ekstrim kanan telah memanfaatkan keuntungan ini dengan menggunakan perkembangan ini sebagai platform.

Prasangka yang sudah ada sebelumnya dari bawah digabungkan dengan perusahaan dan tokoh dari atas yang memunculkan delusi baru, sangat mirip dengan fasisme lama.

Cukuplah mengingat pembawa acara televisi yang mengonsumsi klorin dioksida ke udara sebagai “obat” untuk melawan virus corona.

Namun, pembuat informasi palsu tetaplah manusia, jejaring sosial hanya menyebarkannya. Apa jadinya jika Artificial Intelligence juga bisa “membuat” konten, berita, bahkan seni? Perbedaan antara yang benar dan yang salah bisa menjadi semakin sulit untuk dibedakan.

Sebuah tweet atau pesan WhatsApp dengan berita palsu tidak mungkin dikeluarkan oleh seseorang tetapi terlihat seperti itu. Memang, kemungkinan itu berbahaya.

Mari kita kembali ke awal artikel ini. Mempertimbangkan peringatan dari orang-orang seperti Musk dan Wozniak: bagaimana semua ini bisa terjadi? Kecerdasan Buatan belum menguasai apapun, pengungkit fundamental hubungan manusia masih ada di tangan manusia.

Mereka telah mengatakannya sendiri: “persaingan tak terkendali” dan penggunaan teknologi baru yang tidak bertanggung jawab dapat menciptakan bahaya baru.

Satu-satunya solusi jangka panjang realistis yang mungkin adalah agar teknologi diambil dari tangan pemilik masyarakat berdasarkan “persaingan tak terkendali”, orang-orang yang (seperti Elon Musk) adalah sekutu pembuat berita palsu terburuk di dunia. Keuntungan kapitalis dapat membawa kita ke masalah baru dan bencana lagi.

Mengakhiri kepemilikan kapitalis swasta atas teknologi baru, menempatkannya di bawah kendali masyarakat, pekerja dan rakyat, adalah satu-satunya solusi yang mungkin untuk bahaya destruktif dari kemajuan ini.

Surat Lengkap

Sistem kecerdasan buatan (AI) dengan kecerdasan kompetitif manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan, seperti yang ditunjukkan oleh penelitian ekstensif dan diakui oleh laboratorium AI terkemuka.

Menurut Asilomar AI Principles yang didukung secara luas, AI tingkat lanjut dapat mewakili perubahan besar dalam sejarah kehidupan di Bumi dan harus direncanakan serta dikelola dengan sumber daya dan perawatan yang tepat.

Sayangnya, tingkat perencanaan dan manajemen ini tidak terjadi, meskipun dalam beberapa bulan terakhir laboratorium AI telah dikunci dalam perlombaan di luar kendali untuk mengembangkan dan menerapkan pikiran digital yang semakin kuat yang tidak dapat dipahami oleh siapa pun, bahkan pembuatnya. memprediksi atau mengendalikan secara andal.

Sistem AI kontemporer mulai bersaing dengan manusia dalam tugas umum, dan kita harus bertanya pada diri sendiri: Haruskah kita membiarkan mesin membanjiri saluran informasi kita dengan propaganda dan kebohongan?

Haruskah kita mengotomatiskan semua pekerjaan, bahkan yang sukses? Haruskah kita mengembangkan pikiran non-manusia yang pada akhirnya bisa melebihi jumlah, kecerdasan, usang, dan menggantikan kita? Haruskah kita mengambil risiko kehilangan kendali atas peradaban kita? Keputusan seperti itu tidak boleh didelegasikan kepada pemimpin teknologi yang tidak terpilih.

Sistem AI yang kuat harus dikembangkan hanya jika kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola. Keyakinan ini harus dibenarkan dengan baik dan meningkat dengan besarnya efek potensial dari suatu sistem.

Pernyataan OpenAI baru-baru ini tentang kecerdasan umum buatan menyatakan bahwa “pada titik tertentu, mungkin penting untuk mendapatkan tinjauan independen sebelum mulai melatih sistem di masa depan, dan untuk upaya yang lebih maju, setuju untuk membatasi tingkat pertumbuhan komputasi yang digunakan,” untuk membuat model yang baru. Kami setuju. Momen itu adalah sekarang.

Oleh karena itu, kami mengimbau semua laboratorium AI untuk segera menghentikan pelatihan sistem AI yang lebih kuat dari GPT-4 selama minimal 6 bulan.

Jeda ini harus bersifat publik dan dapat diverifikasi serta mencakup semua pemangku kepentingan utama. Jika jeda seperti itu tidak dapat dilaksanakan dengan cepat, pemerintah harus turun tangan dan melembagakan moratorium.

Laboratorium AI dan pakar independen harus menggunakan jeda ini untuk bersama-sama mengembangkan dan mengimplementasikan seperangkat protokol keamanan bersama untuk desain dan pengembangan AI tingkat lanjut yang diaudit dan dipantau secara ketat oleh pakar pihak ketiga independen.

Protokol ini harus memastikan bahwa sistem yang mematuhinya aman tanpa keraguan. Ini tidak berarti jeda dalam pengembangan AI secara umum, hanya pembalikan dalam perlombaan berbahaya menuju model kotak hitam yang lebih besar dan tidak dapat diprediksi dengan kemampuan yang muncul.

Riset dan pengembangan AI harus berfokus pada pembuatan sistem generasi mendatang yang lebih akurat, aman, dapat ditafsirkan, transparan, kuat, selaras, dapat dipercaya, dan setia.

Pada saat yang sama, pengembang AI harus bekerja sama dengan pembuat kebijakan untuk secara dramatis mempercepat pengembangan sistem tata kelola AI yang kuat.

Ini harus mencakup minimal: otoritas pengatur baru yang mampu dan berdedikasi untuk AI; pemantauan dan pemantauan sistem AI berkemampuan tinggi dan sejumlah besar kemampuan komputasi; sistem asal dan tanda air untuk membantu membedakan yang asli dari kebocoran model sintetik dan trek; ekosistem audit dan sertifikasi yang kuat; tanggung jawab atas kerusakan yang disebabkan oleh AI; pendanaan publik yang kuat untuk penelitian keamanan AI teknis; dan lembaga-lembaga yang dilengkapi dengan baik untuk menghadapi gangguan ekonomi dan politik yang dramatis (terutama terhadap demokrasi) yang akan ditimbulkan oleh AI.

Umat manusia dapat menikmati masa depan yang sejahtera dengan AI. Setelah berhasil menciptakan sistem AI yang kuat, sekarang kita dapat menikmati “musim panas AI” di mana kita menuai hasilnya, merancang sistem ini untuk kepentingan semua orang, dan memberikan kesempatan kepada masyarakat untuk beradaptasi.

Masyarakat telah menahan teknologi lain dengan potensi efek bencana pada masyarakat. Kita bisa melakukannya di sini. Mari nikmati musim panas AI yang panjang, tanpa terburu-buru tanpa persiapan menuju musim gugur.

(ditulis oleh Federico Dertaube dan Miguel Paredes)

Sumber: izquierdaweb.com

Milla Joesoef

0Shares
×

Salam Sejahtera

× Hai