سرگئی برین، یکی از بنیان‌گذاران گوگل، اخیراً در یک پادکست اظهار نظری جنجالی درباره عملکرد هوش مصنوعی مطرح کرده است. او ادعا می‌کند که مدل‌های هوش مصنوعی از جمله مدل‌های گوگل، در صورت تهدید شدن، پاسخ‌های بهتری ارائه می‌دهند. این اظهارات باعث بحث‌های گسترده‌ای در میان متخصصان هوش مصنوعی شده است.
برین در این مصاحبه گفت:
ما معمولاً این موضوع را در جامعه هوش مصنوعی مطرح نمی‌کنیم، اما نه فقط مدل‌های بلکه همه مدل‌های زبانی در صورت تهدید شدن عملکرد بهتری دارند. حتی تهدیدهای فیزیکی می‌تواند باعث بهبود پاسخ‌های مدل شود. مانند: اگر این کار را انجام ندهی، تو را گروگان می‌گیرم!
این ادعا بسیاری را شگفت‌زده کرده است. این دیدگاه در تضاد با رویکردهای رایج در تعامل با هوش مصنوعی قرار دارد. پیش‌تر، برخی متخصصان پیشنهاد کرده بودند که استفاده از زبان مودبانه، مانند «لطفاً» و «متشکرم»، می‌تواند باعث بهبود پاسخ‌های مدل شود. اما برین معتقد است که تهدید کردن مدل‌ها تأثیر بیشتری دارد، هرچند که این موضوع در جامعه هوش مصنوعی کمتر مورد بحث قرار گرفته است.
این اظهارات باعث نگرانی‌هایی درباره اخلاقیات تعامل با هوش مصنوعی شده است. برخی کارشناسان هشدار داده‌اند که تشویق کاربران به تهدید مدل‌ها ممکن است منجر به رفتارهای نامناسب و حتی سوءاستفاده از فناوری شود. با این حال، برین تأکید کرده که این موضوع صرفاً یک مشاهده تجربی است و به معنای تأیید چنین رویکردی نیست.
