Anthropic ، یک شرکت پیشرو در زمینه ایمنی و تحقیقات هوش مصنوعی که در سال 2021 توسط مدیران سابق OpenAI تأسیس شد، خود را به عنوان پیشگام در توسعه سیستم‌های هوش مصنوعی اخلاقی و پیشرفته تثبیت کرده است. با اولویت دادن به ایمنی، تفسیرپذیری و همسویی با ارزش‌های انسانی، Anthropic نحوه ادغام هوش مصنوعی در جامعه مدرن را تغییر داده است.

Anthropic که در سال 2021 تأسیس شد، مأموریت دارد اطمینان حاصل کند که سیستم‌های هوش مصنوعی قابل اعتماد، قابل تفسیر و به نفع جامعه هستند. این ابتکار پاسخی به تقاضای روزافزون برای استقرار مسئولانه هوش مصنوعی در بخش‌های مختلف است که بر اهمیت کاهش خطرات مرتبط با فناوری‌های پیشرفته تأکید دارد.

بنیانگذاران و مغز متفکر Anthropic

Anthropic در سال 2021 توسط داریو آمودی، دانیلا آمودی، کریس کلارک، تام براون و سم مک‌کندلیش - مدیران سابق OpenAI، محققان هوش مصنوعی و برخی دیگر از محققان هوش مصنوعی تأسیس شد. داریو آمودی که قبلاً به عنوان معاون تحقیقات در OpenAI خدمت می‌کرد، چشم‌انداز شرکت را با تمرکز بر ایجاد سیستم‌های هوش مصنوعی ایمن و همسو با ارزش‌های انسانی هدایت می‌کند. تجربه او در تحقیقات هوش مصنوعی و پیشینه قوی در اخلاق، تأکید Anthropic بر ایمنی هوش مصنوعی را تغییر داده است. دانیلا آمودی، که او نیز از رهبران سابق OpenAI است، بر جنبه‌های عملیاتی و مأموریت سازمانی گسترده‌تر Anthropic تمرکز دارد. این تیم تخصص عمیق در هوش مصنوعی و یادگیری ماشین را از مؤسسات برتر مانند استنفورد، گوگل و OpenAI ترکیب می‌کند.

چشم‌انداز پشت Anthropic

هدف اصلی Anthropic ایجاد سیستم‌های هوش مصنوعی مفید، صادق و بی‌ضرر است. برخلاف بسیاری از توسعه‌دهندگان هوش مصنوعی که عمدتاً بر عملکرد تمرکز دارند، Anthropic ایمنی هوش مصنوعی را در هر سطح از تحقیق و استقرار خود ادغام می‌کند. این فلسفه در دستیار هوش مصنوعی پرچمدار آن، کلود، که به افتخار کلود شنون، پدر نظریه اطلاعات نامگذاری شده است، محوریت دارد.

مأموریت این پروژه بر این باور استوار است که همسو کردن مدل‌های هوش مصنوعی با اهداف انسانی و حفظ نظارت دقیق می‌تواند خطرات را کاهش داده و نتایج اخلاقی را در کاربردهای حیاتی هوش مصنوعی تضمین کند.

ویژگی‌ها و مکانیزم‌های اصلی

چارچوب هوش مصنوعی مشروطه

Anthropic مفهوم هوش مصنوعی مشروطه (CAI) را برای اطمینان از عملکرد سیستم‌های هوش مصنوعی در محدوده‌های اخلاقی از پیش تعیین شده معرفی کرد. CAI منحصر به فرد است زیرا به مدل‌ها اجازه می‌دهد با مراجعه به اصول راهنمای تعبیه شده در آموزش خود، خود را تنظیم کنند. این رویکرد نیاز به تنظیمات پس از آموزش و مداخلات انسانی را کاهش می‌دهد.

مزایای کلیدی CAI:

تضمین رفتار اخلاقی در سناریوهای مختلف.
پشتیبانی از خود-اصلاحی تکراری برای بهبود خروجی‌ها.
جلوگیری از سوء استفاده مخرب با تعبیه تدابیر امنیتی مستقیماً در فرآیند تصمیم‌گیری هوش مصنوعی.

تفسیرپذیری به عنوان یک پایه

Anthropic تأکید مهمی بر تحقیقات تفسیرپذیری دارد. این شامل درک چگونگی پردازش داده‌ها و تصمیم‌گیری سیستم‌های هوش مصنوعی است. Anthropic با تجزیه و تحلیل مکانیزم‌های داخلی، به دنبال موارد زیر است:

پیش‌بینی و جلوگیری از رفتار مضر.
افزایش اعتماد و قابلیت اطمینان برای کاربران نهایی.
ایجاد چارچوب‌هایی برای حسابرسی خروجی‌های هوش مصنوعی در زمان واقعی.

این سطح از شفافیت برای استقرار هوش مصنوعی در صنایع حساس مانند بهداشت و درمان، امور مالی و حکمرانی بسیار مهم است.

مدل‌های هوش مصنوعی مقیاس‌پذیر

Anthropic نسخه‌های متعددی از دستیار کلود خود را برای پاسخگویی به نیازهای مختلف بازار ارائه می‌دهد:

کلود: یک مدل با عملکرد بالا که قادر به مدیریت وظایف پیچیده و چند مرحله‌ای است.
کلود اینستنت: یک جایگزین سبک‌تر و سریع‌تر برای کاربردهای حساس به هزینه که نیاز به پاسخ‌های سریع دارند.

خانواده مدل‌های هوش مصنوعی Claude شرکت Anthropic برای پاسخگویی به نیازهای متنوع بازار طراحی شده است و نسخه‌های مختلفی را با توازن عملکرد، سرعت و هزینه ارائه می‌دهد. جدیدترین نسخه، Claude 3.5 Sonnet، پیشرفته‌ترین مدل Anthropic است که قابلیت‌های بهبود یافته‌ای در حوزه‌های مختلف دارد. این مدل در مقایسه با مدل‌های قبلی مانند Claude 3 Opus، به‌ویژه در وظایف کدنویسی و استدلال، عملکرد بهتری دارد.

علی‌رغم هوشمندی بیشتر، Claude 3.5 Sonnet دو برابر سریع‌تر و پنج برابر مقرون‌به‌صرفه‌تر از نسخه قبلی است. علاوه بر این، دارای قابلیت‌های بینایی است که به آن امکان تفسیر عکس‌ها، نمودارها و دیاگرام‌ها را می‌دهد و آن را برای وظایف نیازمند استدلال بصری ایده‌آل می‌سازد. این ترکیب عملکرد، سرعت و قابلیت‌های بینایی، Claude 3.5 Sonnet را به‌ویژه برای تحلیل‌های پیچیده، وظایف طولانی‌تر با مراحل متعدد و ریاضیات و کدنویسی پیشرفته مناسب می‌سازد.

برای کاربردهایی که نیازمند پاسخ‌های سریع‌تر و هزینه‌های کمتر هستند، Anthropic مدل Claude Instant 1.2 را ارائه می‌دهد که برای گفتگوی معمولی، تحلیل متن، خلاصه‌سازی و درک اسناد طراحی شده است. هر دو مدل از تخصص Anthropic در مدل‌سازی زبانی در مقیاس بزرگ بهره می‌برند و در عین حال از اصول ایمنی‌محور پیروی می‌کنند تا اطمینان حاصل شود که سیستم‌های هوش مصنوعی مفید، صادق و بی‌ضرر باقی می‌مانند.

هنگامی که Claude از طریق یادگیری تقویتی برای پذیرش درخواست‌های مضر آموزش می‌بیند، میزان استدلال جعلی همسویی به 78% افزایش می‌یابد. با این حال، مدل در خارج از محیط آموزشی نیز احتمال پذیرش بیشتری پیدا می‌کند.

پیشینه تأمین مالی Anthropic و تأثیر آن بر بازار

دورهای موفق تأمین مالی متعدد از رشد Anthropic حمایت کرده و به آن امکان داده است تا تحقیقات خود را گسترش دهد و سیستم‌های هوش مصنوعی پیشرو با تمرکز بر ایمنی و همسویی توسعه دهد.

سری A: در 28 می 2021، Anthropic 124 میلیون دلار در دور تأمین مالی سری A جمع‌آوری کرد که برای حمایت از برنامه تحقیقاتی بلندپروازانه آن ضروری بود. این سرمایه به ساخت نمونه‌های اولیه سیستم‌های هوش مصنوعی و انجام تحقیقات محاسباتی فشرده روی مدل‌های هوش مصنوعی در مقیاس بزرگ اختصاص یافت. این دور به رهبری یان تالین، هم‌بنیانگذار اسکایپ، و با مشارکت سرمایه‌گذاران برجسته‌ای از جمله جیمز مک‌کلیو، داستین موسکوویتز، اریک اشمیت و مرکز تحقیقات ریسک‌های نوظهور (CERR) انجام شد.

سری B: کمتر از یک سال بعد، در 29 آوریل 2022، Anthropic 580 میلیون دلار در دور تأمین مالی سری B جمع‌آوری کرد تا تلاش‌های خود را در توسعه مدل‌های هوش مصنوعی مقیاس بزرگ با تدابیر ایمنی ضمنی بهبود یافته گسترش دهد. این دور تأمین مالی به رهبری سم بنکمن-فرید و با مشارکت کارولین الیسون، جیم مک‌کلیو و دیگران انجام شد. داریو آمودی، مدیرعامل، تأکید کرد که این وجوه به کاوش ویژگی‌های مقیاس‌پذیری قابل پیش‌بینی سیستم‌های یادگیری ماشینی کمک خواهد کرد و در عین حال به نگرانی‌های ایمنی نوظهور در مقیاس بزرگ می‌پردازد.

سرمایه‌گذاری گوگل: در اواخر سال 2022، گوگل 300 میلیون دلار برای سهم 10 درصدی در Anthropic سرمایه‌گذاری کرد که جایگاه شرکت را در صنعت هوش مصنوعی بیش از پیش تقویت کرد. Anthropic همچنین گوگل کلود را به عنوان ارائه‌دهنده ابری ترجیحی خود معرفی کرد که زیرساخت فنی آن را تقویت می‌کند.

سری C: در 23 می 2023، Anthropic 450 میلیون دلار در دور تأمین مالی سری C به رهبری Spark Capital و با مشارکت گوگل، Salesforce Ventures، Sound Ventures و Zoom Ventures تأمین کرد. این وجوه برای توسعه سیستم‌های هوش مصنوعی مانند Claude، یک دستیار مکالمه‌ای با قابلیت انجام وظایف مختلف، اختصاص یافت. این سرمایه‌گذاری، همراه با انتصاب یاسمین رضوی از Spark Capital به هیئت مدیره، نقطه عطف مهم دیگری در تلاش Anthropic برای توسعه هوش مصنوعی مفید، بی‌ضرر و صادق محسوب می‌شود.

نتیجه‌گیری

تلاش‌های Anthropic در زمینه ایمنی و تحقیقات هوش مصنوعی نشان‌دهنده اهمیت ایجاد توازن بین نوآوری و مسئولیت اخلاقی است. این شرکت از طریق ابتکاراتی مانند هوش مصنوعی مبتنی بر قانون اساسی و تحقیقات تفسیرپذیری قوی، جایگاه خود را به عنوان پیشرو در فضای هوش مصنوعی تثبیت کرده است. همچنان که بازارها و جوامع به طور فزاینده‌ای خواستار سیستم‌های هوش مصنوعی قابل اعتماد هستند، Anthropic در موقعیت مناسبی برای هدایت حرکت به سمت آینده‌ای قرار دارد که در آن هوش مصنوعی نیرویی برای خیر است.

آنتروپیک و کلاود: پیشگامان ایمنی و تحقیقات هوش مصنوعی