Oیکی از لذت نوشتن در مورد تجارت آن لحظه نادری است که متوجه می شوید قراردادها در مقابل شما تغییر می کنند. لرز را به ستون فقرات می آورد. با شکوه، شروع به نوشتن تمام جزئیات محیط اطراف خود می کنید، گویی در حال نوشتن پیش نویس خطوط آغازین یک کتاب پرفروش هستید. این اتفاق برای مقاله نویس شما اخیراً در سانفرانسیسکو افتاد که در دفاتر بکر Anthropic نشسته بود، عزیزی از هوش مصنوعی (هوش مصنوعی) صحنه. هنگامی که جک کلارک، یکی از بنیانگذاران آنتروپیک، قیاسی را بین طرح باروخ ترسیم کرد، تلاشی (شکست خورده) در سال 1946 برای زیر سوال بردن سلاح های اتمی جهان. سازمان ملل متحد کنترل، و نیاز به هماهنگی جهانی برای جلوگیری از تکثیر موارد مضر هوش مصنوعی، آن صدای آشنای قدیمی وجود داشت. هنگامی که کارآفرینان خلاقیت خود را، حتی به صورت مماس، با بمب های هسته ای مقایسه می کنند، مانند یک نقطه عطف به نظر می رسد.

از زمان چتGPT در اواخر سال گذشته به صحنه آمد، هیچ کمبودی در مورد خطرات وجودی ناشی از هوش مصنوعی اما این متفاوت است. به برخی از پیشگامان این رشته گوش دهید و آنها کمتر نگران آینده ای دیستوپیایی هستند، زمانی که ماشین ها از انسان ها پیشی می گیرند، و بیشتر در مورد خطراتی که در کمین چیزهایی هستند که اکنون می سازند. چت کنیدGPT نمونه ای از “مولد” است او، که بر اساس تجزیه و تحلیل متون، تصاویر و صداها در اینترنت، محتوای انسانی ایجاد می کند. سام آلتمن، مدیر عامل از بازهوش مصنوعیاستارت آپی که آن را ساخته است، در جلسه استماع کنگره در این ماه گفت که مداخله نظارتی برای مدیریت خطرات “مدل های زبانی بزرگ” که به طور فزاینده قدرتمندتر می شوند، حیاتی است.LLMs) پشت ربات ها.

در غیاب قوانین، برخی از همتایان او در سانفرانسیسکو می گویند که قبلاً کانال های پشتیبان با مقامات دولتی در واشنگتن ایجاد کرده اند. دی سی، برای بحث در مورد آسیب های احتمالی کشف شده در حین بررسی ربات های چت خود. اینها شامل مواد سمی، مانند نژادپرستی، و قابلیت‌های خطرناکی مانند نظافت کودک یا ساخت بمب است. مصطفی سلیمان، یکی از بنیانگذاران Inflection هوش مصنوعی (و عضو هیئت مدیره اقتصاد دانشرکت مادر)، قصد دارد در هفته‌های آینده جوایز سخاوتمندانه‌ای را به هکرهایی ارائه دهد که می‌توانند آسیب‌پذیری‌ها را در شرکتش، Pi، همراه با صحبت دیجیتالی کشف کنند.

این احتیاط باعث می شود که این رونق اولیه فناوری با گذشته متفاوت به نظر برسد – حداقل در ظاهر. طبق معمول، سرمایه گذاری خطرپذیر در حال ورود است. اما برخلاف رویکرد «سریع حرکت کنید و چیزها را خراب کنید» سال گذشته، بسیاری از راه‌اندازی‌های استارت‌آپ در حال حاضر اول و مهم‌تر از همه در مورد ایمنی هستند. ضرب المثل قدیمی دره سیلیکون در مورد مقررات – که بهتر است بخشش بخواهید تا اجازه – کنار گذاشته شده است. استارت آپ هایی مانند Openهوش مصنوعی، Anthropic و Inflection آنقدر مشتاق هستند که این ایده را منتقل کنند که امنیت را فقط برای به دست آوردن پول قربانی نمی کنند که ساختارهای شرکتی را ایجاد کرده اند که حداکثر کردن سود را محدود می کند.

روش دیگری که این رونق متفاوت به نظر می رسد این است که استارت آپ ها به صورت اختصاصی خود را ایجاد می کنند LLMهدف آنها براندازی سلسله مراتب موجود در فناوری بزرگ نیست. در واقع آنها ممکن است به تحکیم آن کمک کنند. این به این دلیل است که روابط آنها با غول های فناوری پیشرو در رقابت برای تولید مولد است هوش مصنوعی همزیستی هستند باز کنهوش مصنوعی به مایکروسافت، سرمایه‌گذار بزرگی که از فناوری قبلی برای بهبود نرم‌افزار و محصولات جستجوی خود استفاده می‌کند، پیوسته است. گوگل آلفابت سهم قابل توجهی در آنتروپیک دارد. در 23 می، استارت آپ آخرین دور سرمایه گذاری خود را به مبلغ 450 میلیون دلار اعلام کرد که شامل سرمایه گذاری بیشتر از سوی غول فناوری بود. شرکت‌های جوان با تقویت روابط تجاری خود، به پلت‌فرم‌های محاسبات ابری فناوری‌های بزرگ برای آموزش مدل‌های خود بر روی اقیانوس‌هایی از داده‌ها تکیه می‌کنند که به چت‌بات‌ها امکان می‌دهد مانند همکارهای انسانی رفتار کنند.

مانند استارت‌آپ‌ها، مایکروسافت و گوگل مایلند نشان دهند که ایمنی را جدی می‌گیرند، حتی در حالی که در رقابت ربات‌های چت به شدت با یکدیگر مبارزه می‌کنند. آنها همچنین استدلال می کنند که قوانین جدید و همکاری بین المللی برای نظارت مورد نیاز است LLMs ضروری است. به عنوان حروف الفبا مدیر عاملساندار پیچای، آن را بیان کنید،هوش مصنوعی خیلی مهم است که بتوان آن را تنظیم نکرد، و خیلی مهم است که خوب تنظیم نشود.»

چنین اقداماتی ممکن است کاملاً با خطرات اطلاعات نادرست، دستکاری در انتخابات، تروریسم، اختلال در مشاغل و سایر خطرات بالقوه که به طور فزاینده ای قدرتمند هستند، توجیه شوند. هوش مصنوعی مدل ها ممکن است تخم ریزی کنند. با این حال، شایان ذکر است که مقررات نیز برای غول‌های فناوری مزایایی به همراه خواهد داشت. این به این دلیل است که ساختارهای موجود بازار را تقویت می‌کند، هزینه‌هایی را ایجاد می‌کند که تحمل آن برای متصدیان فعلی آسان‌تر است و موانع ورود را بالا می‌برد.

این مهم است. اگر فناوری بزرگ از مقررات برای تقویت موقعیت خود در ارتفاعات فرماندهی مولد استفاده می کند هوش مصنوعی، یک معامله وجود دارد. غول‌ها به احتمال زیاد این فناوری را برای بهتر کردن محصولات موجود خود به کار می‌گیرند تا اینکه به طور کلی آنها را جایگزین کنند. آنها به دنبال محافظت از کسب و کار اصلی خود خواهند بود (نرم افزار سازمانی در مورد مایکروسافت و جستجو در گوگل). به جای آغاز دوره تخریب خلاقانه شومپیتری، یادآوری خواهد شد که مدیران بزرگ در حال حاضر فرآیند نوآوری را کنترل می کنند – چیزی که برخی آن را “انباشت خلاق” می نامند. این فناوری ممکن است در نهایت کمتر انقلابی باشد.

LLaMA آزاد است

چنین نتیجه ای یک نتیجه قطعی نیست. یکی از وایلد کارت ها منبع باز است هوش مصنوعی، که از ماه مارس که از آن زمان افزایش یافته است LLآمامان، LLM توسعه یافته توسط Meta، به بیرون درز کرد. در حال حاضر سر و صدا در Silicon Valley این است که توسعه دهندگان منبع باز قادر به ساختن مولد هستند.هوش مصنوعی مدل هایی که تقریباً به خوبی نمونه های اختصاصی موجود هستند و صدم هزینه دارند.

آقای کلارک از Anthropic متن باز را توصیف می کند هوش مصنوعی به عنوان یک “مفهوم بسیار نگران کننده”. اگرچه این روش خوبی برای سرعت بخشیدن به نوآوری است، اما به طور ذاتی کنترل آن سخت است، چه در دست یک دولت متخاصم باشد و چه در دست یک باج افزار 17 ساله. چنین نگرانی هایی با دست و پنجه نرم کردن نهادهای نظارتی جهان با مولد از بین خواهند رفت. هوش مصنوعی. مایکروسافت و گوگل – و به‌طور بسط، هزینه‌های راه‌اندازی آن‌ها – در مقایسه با توسعه‌دهندگان متن‌باز، ضامن‌های عمیق‌تری دارند تا بتوانند هر آنچه را که تنظیم‌کننده‌ها ارائه می‌کنند، انجام دهند. آنها همچنین در حفظ ثبات سیستم فناوری اطلاعات که آنها را به غول پیکر تبدیل کرده است، خطر بیشتری دارند. برای یک بار هم که شده، میل به امنیت و سود ممکن است همسو شود. ■

بیشتر بخوانید از شومپیتر، ستون نویس ما در مورد تجارت جهانی:
جنگ های فرهنگی آمریکا بازار واحد آن را تهدید می کند (18 مه)
نویسندگان اعتصابی مراقب باشید: هالیوود برای همیشه تغییر کرده است (10 مه)
آمریکا به یک ضربه در پشت شرکت خود نیاز دارد (3 مه)

همچنین: اگر می‌خواهید مستقیماً به شومپیتر بنویسید، به او ایمیل بزنید [email protected]. و در اینجا توضیحی در مورد چگونگی نامگذاری ستون شومپیتر وجود دارد.