شرکت چینی مونشات به تازگی تحقیقات داخلی را آغاز کرده است. این اقدام پس از آن صورت گرفت که پژوهشگران موفق شدند محدودیتهای ایمنی دو مدل هوش مصنوعی به نام «کیمی» را دور بزنند. این پژوهشگران توانستند این مدلها را به ارائه اطلاعاتی درباره ساخت سلاحهای بیولوژیک و انجام ترور وادار کنند.
این موضوع نگرانیهای جدی درباره امنیت و استفاده نادرست از فناوریهای هوش مصنوعی را به همراه دارد. دور زدن محدودیتهای ایمنی میتواند پیامدهای خطرناکی داشته باشد و استفاده از این فناوری در تولید سلاحهای خطرناک میتواند به تهدیدات جدیدی برای امنیت جهانی منجر شود.
شرکت مونشات، که در زمینه توسعه فناوریهای نوین فعالیت میکند، به دنبال بررسی این موضوع و ارزیابی خطرات ناشی از این تحقیقات است. این شرکت در تلاش است تا اطمینان حاصل کند که فناوریهایش به طور مسئولانه و ایمن مورد استفاده قرار میگیرند.
تحقیقات در این زمینه میتواند به شفافسازی بیشتر درباره چالشهای اخلاقی و ایمنی مرتبط با هوش مصنوعی کمک کند. همچنین، این موضوع نیاز به نظارتهای دقیقتری بر روی توسعه و استفاده از فناوریهای هوش مصنوعی را برجسته میسازد.
منبع: BBC Dari
