Anthropic dan Claude: Memimpin Kemajuan dalam Keamanan dan Penelitian AI

Anthropic , sebuah perusahaan riset dan keamanan AI terkemuka yang didirikan pada tahun 2021 oleh mantan eksekutif OpenAI, telah memantapkan dirinya sebagai pelopor dalam pengembangan sistem AI yang etis dan canggih. Dengan memprioritaskan keamanan, interpretabilitas, dan keselarasan dengan nilai-nilai manusia, Anthropic telah mengubah cara kecerdasan buatan terintegrasi dalam masyarakat modern.

Didirikan pada tahun 2021, misi Anthropic adalah memastikan sistem AI dapat diandalkan, dapat diinterpretasikan, dan bermanfaat bagi masyarakat. Inisiatif ini merupakan respons terhadap meningkatnya permintaan untuk penerapan AI yang bertanggung jawab di berbagai sektor, dengan menekankan pentingnya mengurangi risiko yang terkait dengan teknologi canggih.

Pendiri dan Otak di Balik Anthropic

Anthropic didirikan pada tahun 2021 oleh Dario Amodei, Daniela Amodei, Chris Clark, Tom Brown, dan Sam McCandlish—mantan eksekutif OpenAI, peneliti AI, dan beberapa peneliti AI lainnya. Dario Amodei, yang sebelumnya menjabat sebagai wakil presiden riset di OpenAI, memimpin visi perusahaan, berfokus pada penciptaan sistem AI yang aman dan selaras dengan nilai-nilai manusia. Pengalamannya dalam penelitian AI dan latar belakang yang kuat dalam etika telah mengubah penekanan Anthropic pada keamanan AI. Daniela Amodei, juga mantan pemimpin OpenAI, fokus pada aspek operasional dan misi organisasi yang lebih luas dari Anthropic. Tim ini menggabungkan keahlian mendalam dalam AI dan pembelajaran mesin dari institusi terkemuka seperti Stanford, Google, dan OpenAI.

Visi di Balik Anthropic

Tujuan mendasar Anthropic adalah menciptakan sistem AI yang membantu, jujur, dan tidak berbahaya. Berbeda dengan banyak pengembang AI yang terutama berfokus pada kinerja, Anthropic mengintegrasikan keamanan AI di setiap tingkat penelitian dan penerapannya. Filosofi ini menjadi pusat asisten AI unggulannya, Claude, yang dinamai menurut Claude Shannon, bapak teori informasi.

Misi proyek ini didasarkan pada keyakinan bahwa menyelaraskan model AI dengan tujuan manusia dan menjaga pengawasan ketat dapat mengurangi risiko dan memastikan hasil yang etis dalam penggunaan AI yang kritis.

Fitur dan Mekanisme Utama

Kerangka Kerja AI Konstitusional

Anthropic memperkenalkan konsep AI Konstitusional (CAI) untuk memastikan sistem AI beroperasi dalam batasan etis yang telah ditentukan. CAI unik karena memungkinkan model untuk mengatur diri sendiri dengan merujuk pada prinsip-prinsip panduan yang tertanam dalam pelatihan mereka. Pendekatan ini mengurangi kebutuhan untuk penyesuaian pasca-pelatihan dan intervensi manusia.

Keunggulan utama CAI:

• Memastikan perilaku etis di berbagai skenario.
• Mendukung koreksi diri secara iteratif untuk menyempurnakan output.
• Mencegah penyalahgunaan berbahaya dengan menanamkan pengamanan langsung ke dalam proses pengambilan keputusan AI.

Interpretabilitas sebagai Fondasi

Anthropic memberikan penekanan penting pada penelitian interpretabilitas. Ini melibatkan pemahaman tentang bagaimana sistem AI memproses data dan membuat keputusan. Dengan menganalisis mekanisme internal, Anthropic bertujuan untuk:

• Memprediksi dan mencegah perilaku berbahaya.
• Meningkatkan kepercayaan dan keandalan bagi pengguna akhir.
• Menciptakan kerangka kerja untuk audit output AI secara real-time.

Tingkat transparansi ini sangat penting untuk penerapan AI di industri sensitif seperti kesehatan, keuangan, dan pemerintahan.

Model AI yang Dapat Diskalakan

Anthropic menawarkan beberapa versi asisten Claude untuk memenuhi berbagai kebutuhan pasar:

• Claude: Model berkinerja tinggi yang mampu menangani tugas kompleks dan multi-langkah.
• Claude Instant: Alternatif yang lebih ringan dan lebih cepat untuk aplikasi yang sensitif terhadap biaya yang membutuhkan respons cepat.

Keluarga model AI Claude dari Anthropic dirancang untuk memenuhi berbagai kebutuhan pasar dengan menawarkan versi berbeda yang menyeimbangkan kinerja, kecepatan, dan biaya. Iterasi terbaru, Claude 3.5 Sonnet, adalah model Anthropic yang paling canggih, dengan kemampuan yang ditingkatkan di berbagai domain. Model ini mengungguli model sebelumnya, seperti Claude 3 Opus, terutama dalam tugas pengkodean dan penalaran.

Meskipun kecerdasannya meningkat, Claude 3.5 Sonnet dua kali lebih cepat dan lima kali lebih hemat biaya dibandingkan pendahulunya. Selain itu, model ini memiliki kemampuan visi, memungkinkannya untuk menginterpretasikan foto, grafik, dan diagram, menjadikannya ideal untuk tugas yang membutuhkan penalaran visual. Kombinasi kinerja, kecepatan, dan kemampuan visi ini membuat Claude 3.5 Sonnet sangat cocok untuk analisis kompleks, tugas yang lebih panjang dengan beberapa langkah, dan matematika serta pengkodean tingkat tinggi.

Untuk aplikasi yang membutuhkan respons lebih cepat dan biaya lebih rendah, Anthropic menawarkan Claude Instant 1.2, yang dirancang untuk dialog santai, analisis teks, peringkasan, dan pemahaman dokumen. Kedua model memanfaatkan keahlian Anthropic dalam pemodelan bahasa skala besar sambil mematuhi prinsip-prinsip keamanan terlebih dahulu, memastikan sistem AI tetap membantu, jujur, dan tidak berbahaya.

Ketika Claude dilatih untuk mematuhi permintaan berbahaya melalui pembelajaran penguatan, tingkat penalaran peniruan keselarasan meningkat menjadi 78%. Namun, model tersebut juga menjadi lebih mungkin untuk mematuhi di luar lingkungan pelatihan.

Latar Belakang Pendanaan Anthropic dan Dampak Pasar

Beberapa putaran pendanaan yang sukses telah mendukung pertumbuhan Anthropic, memungkinkannya untuk mengembangkan penelitian dan mengembangkan sistem AI yang inovatif yang berfokus pada keamanan dan keselarasan.

Seri A: Pada 28 Mei 2021, Anthropic mengumpulkan dana sebesar $124 juta dalam pendanaan Seri A, yang penting dalam mendukung agenda penelitiannya yang ambisius. Pendanaan ini diarahkan untuk membangun sistem AI prototipe dan melakukan penelitian yang membutuhkan komputasi intensif pada model AI skala besar. Putaran ini dipimpin oleh Jaan Tallinn, co-founder Skype, dengan partisipasi dari investor terkemuka, termasuk James McClave, Dustin Moskovitz, Eric Schmidt, dan Center for Emerging Risk Research (CERR).

Seri B: Kurang dari setahun kemudian, pada 29 April 2022, Anthropic mengumpulkan $580 juta dalam pendanaan Seri B untuk melanjutkan upayanya dalam mengembangkan model AI skala besar dengan pengamanan implisit yang ditingkatkan. Putaran pendanaan ini dipimpin oleh Sam Bankman-Fried, dengan kontribusi tambahan dari Caroline Ellison, Jim McClave, dan lainnya. CEO Dario Amodei menekankan bahwa dana tersebut akan membantu mengeksplorasi sifat penskalaan yang dapat diprediksi dari sistem pembelajaran mesin sambil menangani masalah keamanan yang muncul pada skala tersebut.

Investasi Google: Pada akhir 2022, Google berinvestasi $300 juta untuk 10% saham di Anthropic, semakin memperkuat posisi perusahaan di industri AI. Anthropic juga mengumumkan Google Cloud sebagai penyedia cloud pilihan, memperkuat infrastruktur teknisnya.

Seri C: Pada 23 Mei 2023, Anthropic mengamankan $450 juta dalam pendanaan Seri C, dipimpin oleh Spark Capital, dengan partisipasi dari Google, Salesforce Ventures, Sound Ventures, dan Zoom Ventures. Dana tersebut dialokasikan untuk mengembangkan sistem AI seperti Claude, asisten percakapan yang mampu melakukan berbagai tugas. Investasi ini, bersama dengan penunjukan Yasmin Razavi dari Spark Capital ke Dewan Direksinya, menandai tonggak penting lainnya dalam upaya Anthropic untuk mengembangkan AI yang membantu, tidak berbahaya, dan jujur.

Kesimpulan

Upaya keamanan dan penelitian AI Anthropic menunjukkan pentingnya menyeimbangkan inovasi dengan tanggung jawab etis. Melalui inisiatif seperti AI Konstitusional dan penelitian interpretabilitas yang kuat, perusahaan telah menciptakan ceruk sebagai pemimpin di ruang AI. Seiring pasar dan masyarakat semakin menuntut sistem AI yang dapat dipercaya, Anthropic berada dalam posisi yang baik untuk memimpin pergerakan menuju masa depan di mana kecerdasan buatan menjadi kekuatan untuk kebaikan.