d/acc: Tinjauan dan Harapan Setelah Satu Tahun

Tahun lalu, saya menulis sebuah artikel tentang optimisme teknologi, yang menjelaskan antusiasme saya terhadap teknologi secara keseluruhan, serta manfaat besar yang dibawa oleh teknologi. Saya juga menyampaikan sikap hati-hati terhadap beberapa masalah, terutama yang berfokus pada kecerdasan buatan super dan risiko potensialnya.

Inti dari artikel ini adalah mendorong suatu konsep: percepatan defensif yang terdesentralisasi, demokratis, dan berbeda. Kita perlu mempercepat perkembangan teknologi, tetapi dengan selektif fokus pada teknologi yang dapat meningkatkan kemampuan pertahanan daripada kemampuan penghancuran, dan berkomitmen untuk mendorong desentralisasi kekuasaan, menghindari konsentrasi kekuasaan di tangan segelintir elit.

Selama setahun, ide dan pemikiran ini telah mengalami perkembangan dan kematangan yang signifikan. Saya telah membagikan pemikiran ini di platform "80.000 Jam", dan mendapatkan banyak tanggapan, sebagian besar positif, tentu saja ada juga beberapa kritik.

Pekerjaan ini terus berjalan dan telah mencapai kemajuan yang signifikan: ada terobosan dalam bidang vaksin sumber terbuka yang dapat diverifikasi; pemahaman orang tentang nilai udara dalam ruangan yang sehat semakin mendalam; "catatan komunitas" terus memainkan peran positif; pasar prediksi sebagai alat informasi mengalami tahun terobosan; bukti tanpa pengetahuan diterapkan dalam identifikasi identitas pemerintah dan bidang media sosial; alat pencitraan sumber terbuka digunakan dalam bidang kedokteran dan antarmuka otak-mesin, dan lain-lain.

Musim gugur lalu, kami menyambut kegiatan d/acc penting pertama: "Hari Penemuan d/acc"(d/aDDy), acara ini mengumpulkan pembicara dari berbagai bidang pilar d/acc( biologi, fisika, jaringan, pertahanan informasi, serta teknologi saraf) selama sehari penuh. Orang-orang yang telah lama berkomitmen terhadap teknologi ini semakin memahami pekerjaan satu sama lain, sementara orang luar semakin menyadari visi yang lebih besar ini: mendorong nilai-nilai yang sama dalam pengembangan Ethereum dan cryptocurrency dapat meluas ke dunia yang lebih luas.

Makna dan Ruang Lingkup d/acc

Inti dari pemikiran d/acc dijelaskan secara singkat: desentralisasi, demokratis, dan akselerasi defensif yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan antara serangan dan pertahanan menuju pertahanan, dan dalam proses implementasinya tidak bergantung pada memberikan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan erat yang inheren antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas, sering kali dapat berkembang pesat ketika pertahanan mudah diimplementasikan, sedangkan ketika pertahanan menghadapi banyak kesulitan, mereka akan menghadapi tantangan yang berat.

Salah satu cara untuk memahami pentingnya mencoba untuk mencapai desentralisasi, pertahanan, dan percepatan secara bersamaan adalah dengan membandingkannya dengan ide yang dihasilkan dari melepaskan salah satu dari ketiga aspek tersebut.

Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan diferensiasi"

Ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa dari mereka menyebut diri mereka d/acc, tetapi mereka secara bermanfaat menggambarkan fokus mereka sebagai "agresif". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "kecerdasan buatan terdesentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "pertahanan" sangat kurang.

Cara ini mungkin dapat menghindari risiko penguasaan tirani oleh kelompok tertentu terhadap umat manusia secara global, tetapi tidak dapat menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang menguntungkan serangan, selalu ada risiko bencana yang berkelanjutan, atau seseorang mungkin akan memposisikan diri mereka sebagai pelindung, dan secara permanen menduduki posisi dominasi. Dalam hal kecerdasan buatan, ini juga tidak dapat dengan baik mengatasi risiko melemahnya kekuasaan umat manusia secara keseluruhan dibandingkan dengan kecerdasan buatan.

Percepatan pertahanan yang berbeda, tetapi mengabaikan "desentralisasi dan demokrasi"

Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan. Namun, kontrol terpusat memiliki masalah derajat. Sebuah bentuk kontrol terpusat yang relatif moderat namun tetap berbahaya yang biasanya diabaikan, tercermin dalam penolakan pengawasan publik di bidang bioteknologi, serta membiarkan perilaku penolakan ini tidak ditantang oleh norma-norma sumber tertutup.

Risiko dari cara ini sangat jelas, yaitu bahwa pusat itu sendiri seringkali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian fungsional yang didanai oleh beberapa pemerintah dunia utama mungkin adalah asal mula pandemi, epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang dipaksakan dan mandat vaksin telah memicu reaksi politik yang mungkin bertahan selama beberapa dekade. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko terkait kecerdasan buatan atau teknologi risiko lainnya. Sebaliknya, pendekatan terdesentralisasi akan lebih efektif dalam menangani risiko yang berasal dari pusat itu sendiri.

Pertahanan terdesentralisasi, tetapi menolak percepatan

Pada dasarnya, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong penurunan ekonomi.

Strategi ini menghadapi tantangan ganda. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, dan setiap penundaan terhadapnya akan membawa biaya yang sulit diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan berada dalam posisi yang menguntungkan. Strategi pelambatan dapat berfungsi sampai batas tertentu dalam situasi tertentu: misalnya, makanan Eropa lebih sehat daripada makanan Amerika, ini adalah contoh; keberhasilan dalam non-proliferasi nuklir sejauh ini juga demikian. Namun, strategi ini tidak mungkin berhasil selamanya.

Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:

• Mempertahankan prinsip di tengah tren tribalistis yang semakin meningkat di dunia saat ini, bukan sekadar membangun berbagai hal secara membabi buta - sebaliknya, kami berharap membangun hal-hal tertentu untuk membuat dunia menjadi lebih aman dan lebih baik.
• Menyadari kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat unik, dan "jejak" keseluruhan manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah terus maju.
• Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik ( atau kecerdasan buatan yang baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk membangun dan melindungi daripada untuk menghancurkan.

Satu perspektif lain untuk memikirkan d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa di akhir 2000-an: pemberdayaan.

Tujuan kami adalah membangun sebuah dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain ( baik itu warga biasa, pemerintah, atau robot super cerdas ) terhadap kemampuan kita untuk membentuk nasib kita sendiri, sekaligus mencapai kebebasan positif, yaitu memastikan kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan tersebut. Ini mencerminkan tradisi liberalisme klasik yang telah berlangsung selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "perolehan alat", serta penekanan John Stuart Mill terhadap pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia—mungkin juga dapat ditambahkan harapan Buckminster Fuller bahwa proses penyelesaian masalah global bersifat partisipatif dan luas. Mengingat lanskap teknologi abad ke-21, kita dapat melihat d/acc sebagai salah satu cara untuk mencapai tujuan yang sama.

Dimensi Ketiga: Sinergi antara Kelangsungan Hidup dan Kemakmuran

Dalam artikel saya tahun lalu, d/acc sangat fokus pada teknologi defensif: pertahanan fisik, pertahanan biologis, pertahanan siber, dan pertahanan informasi. Namun, sekadar pertahanan terdesentralisasi tidak cukup untuk membangun dunia yang hebat: kita juga memerlukan visi positif yang proaktif, yang menjelaskan tujuan apa yang dapat dicapai manusia setelah memperoleh desentralisasi dan keamanan yang baru.

Artikel tahun lalu memang mengandung visi positif dalam dua aspek:

1. Dalam memperhatikan tantangan superintelligence, saya mengusulkan sebuah jalur ( yang bagi saya bukanlah orisinal ), yaitu bagaimana kita dapat mencapai superintelligence tanpa kehilangan kekuasaan:

• Saat ini, membangun kecerdasan buatan sebagai alat, bukan sebagai agen cerdas yang sangat otonom.
• Di masa depan, menggunakan alat seperti realitas virtual, teknologi elektromyografi, dan antarmuka otak-mesin untuk membangun mekanisme umpan balik yang lebih erat antara kecerdasan buatan dan manusia.
• Seiring berjalannya waktu, secara bertahap menuju akhir yang akhirnya, yaitu kecerdasan super adalah produk dari perpaduan erat antara mesin dan manusia.

2. Ketika membahas pertahanan informasi, saya juga pernah menyebutkan bahwa, selain teknologi sosial defensif yang bertujuan membantu komunitas tetap kohesif dan melakukan diskusi berkualitas tinggi saat menghadapi penyerang, ada juga teknologi sosial progresif yang dapat membantu komunitas membuat penilaian berkualitas tinggi dengan lebih mudah: Pol.is adalah salah satu contohnya, demikian pula pasar prediksi.

Tetapi saat itu, kedua poin ini terasa terputus dari inti argumen d/acc: "Ada beberapa ide tentang bagaimana membangun dunia yang lebih demokratis dan lebih menguntungkan untuk pertahanan di tingkat dasar, dan omong-omong, ada juga beberapa ide yang tidak relevan tentang bagaimana kita mencapai kecerdasan super."

Namun, saya percaya bahwa di dunia nyata, ada beberapa hubungan yang sangat penting antara teknologi d/acc yang ditandai sebagai "defensif" dan "progresif" yang disebutkan di atas. Mari kita memperluas grafik d/acc dari artikel tahun lalu, dengan menambahkan sumbu ini ( sambil mengganti labelnya menjadi "survival dan kemakmuran" ), untuk melihat hasil apa yang akan ditampilkan:

Di berbagai bidang terdapat pola yang konsisten, yaitu sains, pemikiran, dan alat yang dapat membantu kita "bertahan" di suatu bidang, sangat terkait dengan sains, pemikiran, dan alat yang dapat mendukung kita "berkembang". Berikut adalah beberapa contoh konkret:

• Banyak penelitian terbaru tentang COVID-19 berfokus pada keberadaan virus yang terus-menerus di dalam tubuh, yang dianggap sebagai mekanisme kunci dari masalah long COVID. Baru-baru ini, ada juga tanda-tanda bahwa keberadaan virus yang terus-menerus mungkin menjadi faktor patogenik untuk penyakit Alzheimer—jika pandangan ini benar, maka mengatasi masalah keberadaan virus yang terus-menerus di semua jenis jaringan mungkin menjadi kunci untuk mengatasi masalah penuaan.
• Alat pencitraan berbiaya rendah dan mikro, seperti yang sedang dikembangkan oleh OpenWater, memiliki potensi besar dalam pengobatan mikrothrombus, keberadaan virus yang persisten, kanker, dan juga dapat diterapkan di bidang antarmuka otak-mesin.
• Mendorong pembangunan alat sosial yang cocok untuk lingkungan yang sangat konfrontatif ( seperti catatan komunitas ) dan alat sosial untuk lingkungan kolaborasi yang wajar ( seperti Pol.is ) memiliki konsep yang sangat mirip.
• Pasar prediksi memiliki nilai penting baik dalam lingkungan kolaborasi tinggi maupun dalam lingkungan konfrontasi tinggi.
• Pembuktian nol-pengetahuan dan teknologi serupa melakukan perhitungan data sambil melindungi privasi, yang tidak hanya meningkatkan jumlah data yang dapat digunakan untuk penelitian ilmiah dan pekerjaan bermanfaat lainnya, tetapi juga memperkuat perlindungan privasi.
• Energi matahari dan baterai memiliki arti luar biasa untuk mendorong gelombang pertumbuhan ekonomi bersih berikutnya, sekaligus menunjukkan kinerja yang baik dalam desentralisasi dan ketahanan fisik.

Selain itu, terdapat hubungan saling ketergantungan yang penting antara berbagai bidang disiplin:

• Antarmuka otak-mesin sangat penting sebagai teknologi pertahanan informasi dan kolaborasi, karena dapat mewujudkan komunikasi yang lebih halus tentang pikiran dan niat kita. Antarmuka otak-mesin bukan hanya koneksi antara robot dan kesadaran: itu juga bisa menjadi interaksi antara kesadaran-robot-kesadaran. Ini selaras dengan nilai antarmuka otak-mesin dalam konsep pluralitas.
• Banyak bioteknologi bergantung pada berbagi informasi, dan dalam banyak kasus, orang hanya bersedia berbagi informasi jika mereka yakin bahwa informasi tersebut hanya akan digunakan untuk aplikasi tertentu. Ini bergantung pada teknologi privasi ( seperti bukti tanpa pengetahuan, enkripsi homomorfik penuh, teknik pengacakan, dll ).
• Teknologi kolaborasi dapat digunakan untuk mengkoordinasikan pendanaan untuk bidang teknologi lainnya.

![Vitalik baru: Bagaimana desentralisasi akselerasionisme menghubungkan cryptocurrency dan AI?](