افقی جدید در مسیر جستجو با هوش مصنوعی مولد – سند راهنمای SGE گوگل

فناوری‌های هوش مصنوعی ده‌ها سال است که به جستجوی گوگل کمک می‌کنند تا نحوه تعامل افراد و الگوی جستجوی آن‌ها را به‌خوبی درک کرده و به بهبود نتایج وب بپردازند.

اولین قدم‌ها در زمینه یادگیری ماشین به سال ۲۰۰۱ برمی‌گردد، جایی که نسخه اولیه سیستم تصحیح املای گوگل به افراد این امکان را می‌داد تا بدون توجه به اشتباهات املایی، سریع‌تر از هروقت دیگری به نتایج مرتبط دست پیدا کنند. درنهایت با معرفی سیستم رتبه‌بندی «Transformers BERT» گام بزرگ دیگری در سال ۲۰۱۹ برداشته شد که کیفیت جستجو را به طور کل متحول کرد.

سیستم BERT به جای درک جداگانه کلمات، به جستجو کمک کرد تا کوئری‌ها را بر مبنای زمینه مورداستفاده‌شان پردازش کند. بدین ترتیب کاربران می‌توانستند سؤالات طولانی‌تری را به‌صورت مکالمه‌ای از موتور جستجو بپرسند و نتایج منطبق و مفیدی را به دست آورند.

از آن زمان تا کنون، مدل‌های زبان بزرگِ قدرتمندتر دیگری نیز به جستجوی گوگل آمد که شاخص‌ترین آن‌ها سیستم رتبه‌بندی MUM نام دارد. مدل یکپارچه چندوظیفه‌ای MUM، تا ۱۰۰۰ برابر قدرتمندتر از BERT بوده و ضمن پشتیبانی از ۷۵ زبان مختلف دنیا، برای اجرای چندین وظیفه به طور هم‌زمان آموزش‌داده‌شده است.

گوگل می‌گوید: ما با استفاده از MUM به افراد کمک می‌کنیم تا نتایج جستجوی خود را حتی زمانی که صراحتاً موضوعی را ذکر نکرده‌اند، در ویدئوها پیدا کنند.

سیستم رتبه‌بندی MUM هم‌اکنون در ده‌ها فیچر نتایج جستجو فعال است تا ضمن بهبود کیفیت نتایج، به سازماندهی داده‌ها نیز کمک کند.

توسعه انواع محصولات بر پایه هوش مصنوعی باعث شده تا نحوه تعامل مردم با اطلاعات متحول شود. تجربه مولد جستجو (Search Generative Experience) که به‌اختصار «SGE» نامیده می‌شود، شکل اولیه مدل جدید جستجوی گوگل است که از طریق پلتفرم آزمایشگاهی «Search Labs» می‌توان به آن دسترسی داشت.

این سند راهنما ضمن بررسی نسخه اولیه و کنونی هوش مصنوعی SGE تلاش می‌کند تا رویکرد گوگل را در تکامل جستجو با کمک AI شرح داده و شما را در ارائه بازخورد و اشتراک‌گذاری تجربه‌تان کمک می‌دهد.

هوش مصنوعی SGE گوگل

هوش مصنوعی جستجوی مولد SGE، اولین گام در تلفیق تجربه جستجوی افراد با نقش مستقیم هوش مصنوعی است. کاربران هنگام استفاده از SGE، با نتایج جستجوی متفاوتی مواجه می‌شوند که سرپ را به روشی جدید سازماندهی کرده و جستجوگران را برای رسیدن به پاسخ‌های دقیق یاری می‌رساند.

شاخص‌های تجربی SGE بدین ترتیب هستند:

• انواع مختلفی از سؤالات را خواهید پرسید که تا پیش‌ازاین، تصور نمی‌کردید بتوان پاسخ آن‌ها را در وب یافت.
• برای درک بهتر زمینه موضوعی یک جستجو، SGE لینک‌های مرتبط با نتایج را نیز نمایش می‌دهد.
• جستجوهای خود را به شکلی طبیعی‌تر و مکالمه‌محور در نتایج «conversational mode» پیش خواهید برد.

گوگل SGE، تجربه‌ای منحصربه‌فرد از ایده‌های خلاقانه و جستجوی بی‌انتها میان ویژگی‌های سرپ است که ریشه در ساختار موتور جستجو دارد. این هوش مصنوعی مولد تلاش می‌کند تا محتوای غنی و بروز را از منابعی به دست کاربران برساند که علاوه بر تخصص موضوعی، قابل‌اعتماد و معتبر هستند.

هوش مصنوعی مولد SGE چگونه کار می‌کند؟

نتایج مولد SGE به دو بخش اصلی تقسیم می‌شود که هریک در کنار تجربه‌ای ناب و منحصربه‌فرد، نرخ تبدیل بسیار بالایی را به همراه دارند. سرپ SGE بر این‌ اساس طراحی شده تا علاوه بر نمایش نتایج ارگانیک، صفحات وب بیشتری به صدر نتایج راه پیدا کرده و با جستجوی کوئری‌های طولانی‌تر و موضوعات مرتبط نیز نمایش داده شوند.

بدین ترتیب سایت‌ها و صفحاتی که تا قبل از این فرصت شکوفایی و ارائه قابلیت‌های ارزشمند خود را نداشتند، ترافیک و نرخ تبدیل بالایی را به همراه سطح وسیعی از عبارات و اهداف جستجو تجربه خواهند کرد.

ویژگی AI-powered snapshots

یکی از ویژگی‌های هوش مصنوعی SGE نمایش نمای کلی از نتایج و موضوعات مرتبط با جستجوی کاربر است که به آن «snapshots» گفته می‌شود. اسنپ‌شات‌ها بر پایه هوش مصنوعی مولد تولید می‌شوند و هدفشان ارائه اطلاعات مفید و جامع از کوئری جستجو شده است تا کاربر بتواند طیف وسیعی از انواع محتوا و دیدگاه‌ها را در وب کشف کند.

اطلاعات تولیدشده در اسنپ‌شات‌های SGE حاوی لینک‌هایی به منابع مرتبط است؛ بنابراین افراد می‌توانند نتایج به‌دست‌آمده را بررسی کرده و کاوش عمیق‌تری در سایت‌ها داشته باشند. این رویکرد علاوه بر اینکه فرصت بیشتری را در اختیار تولیدکنندگان محتوا، ناشران، فروشندگان و سایرین قرار می‌دهد؛ نقش مؤثری در پیشبرد اهداف جستجو و رسیدن به نتایج غنی به همراه دارد.

ویژگی Conversational mode

نتایج جستجوی گوگل علاوه بر ویژگی‌هایی که به‌صورت «snapshots» نمایش داده می‌شود، بخش بزرگ دیگری به نام «Conversational mode» را به سرپ می‌آورد که به کاربران اجازه می‌دهد نتایج جستجوی مکالمه‌محور داشته باشند.

با پیشرفت فناوری‌های مبتنی بر هوش مصنوعی و تغییر رفتار کاربران در نحوه جستجو، درک صحیح و نمایش پاسخ‌های منطبق با کوئری‌های طولانی و پیچیده از اهمیت بالایی برخوردار است. به کمک «Conversational mode» کاربران می‌توانند جستجوهای طبیعی و بسیار دقیقی با گوگل داشته باشند که چیزی فراتر از اطلاعات تولیدشده توسط «snapshots» است.

بخش مکالمه‌محور نتایج جستجوی گوگل، لینک‌های بیشتر و منابع متعددی را به نمایش می‌گذارد که علاوه بر نمایش صفحات سایت‌هایی که فرصت کمی برای حضور در نتایج داشتند، بستر رشد و شناسایی منابع ارزشمند کمتر دیده‌شده بیشتر می‌شود.

حالت مکالمه محور (Conversational mode) نتایج جستجو، تجربه‌ای ناب را برای گردآوری اطلاعات از سایت‌ها در اختیار افراد قرار می‌دهد. این ویژگی پاسخ‌هایی وابسته به مفهوم کلی جستجو و مرتبط با نتایج قبلی را نمایش می‌دهد که در نوع خود تجربه‌ای بی‌نظیر است.

در پاسخ‌های «Conversational mode» علاوه بر «snapshots» مرتبط با کوئری، نتایج ارگانیک وب‌سایت‌ها (web links) را نیز نمایش داده و کاربر می‌تواند قبل از ادامه جستجوی مکالمه‌محور، پیشنهادات را نیز انتخاب کند. فناوری بکار رفته در «Conversational mode» به گوگل کمک می‌کند تا ارتباط میان سرچ کوئری‌ها با پاسخ‌های قبلی را به‌خوبی درک کرده و نتایجی بیاورد که با نیت و هدف کاربر منطبق است.

ویژگی Vertical experiences

هوش مولد SGE به لطف ویژگی «Vertical experiences» می‌تواند ابعاد متنوع و جدیدی را به جستجو بیاورد که برای نمایش اطلاعات، خرید و محلی بسیار مفید خواهد بود. SGE با درنظرگرفتن بینش‌های مختلف کمک می‌کند تا افراد بتوانند تصمیمات پیچیده‌ را با سرعت بیشتری اتخاذ کنند.

به‌عنوان‌مثال در جستجوی Transactional، ویژگی «Vertical experiences» ابتدا یک «snapshots» از عوامل قابل‌توجه را به همراه طیف وسیعی از گزینه‌های مناسب برای خرید محصول تولید می‌کند. این داده‌ها شامل توضیحات محصولات، بررسی‌ها و نظرات، امتیازات، قیمت‌ها و تصاویر محصولات است. SGE از قدرت پردازش مبتنی بر هوش مصنوعی استفاده می‌کند تا تجربه مقایسه و بررسی محصولات را مخصوصاً برای کسب‌وکارهای محلی بهبود بخشد.

ویژگی «Vertical experiences» به کاربران این امکان را می‌دهد تا در جریان جستجوهای خود، بهتر تصمیم بگیرند و با سرعت بیشتری به منابع محلی دست پیدا کنند.

ویژگی Advertisements

تبلیغات به‌عنوان منابع مکمل، همواره اطلاعات مفیدی را به همراه دارند و به مردم کمک می‌کنند تا بتوانند با میلیون‌ها کسب‌وکار آنلاین آشنا شوند.

در نتایج جستجوی SGE، تبلیغات همچنان در جایگاه‌های تبلیغاتی نتایج جستجو ظاهر می‌شوند و تبلیغ‌کنندگان فرصت دستیابی به مشتریان بالقوه را در نتایج جستجو خواهند داشت.

گوگل می‌گوید: «ما دائماً در حال یادگیری و گردآوری داده‌ها از تجربه تبلیغات هستیم تا بتوانیم این ویژگی بزرگ را به‌خوبی توسعه بخشیم. ما خود را متعهد می‌دانیم تا با تأکید بر شفافیت، نتایج تبلیغاتی را با برچسب «Sponsored» از جستجوی ارگانیک متمایز سازیم.»

ویژگی Creativity

هوش مصنوعی مولد SGE با تکیه‌ بر قابلیت‌های خود به افراد کمک می‌کند سفر خود را در نتایج جستجو به شکل خلاقانه‌تری ادامه دهند، تجربه‌ای بی‌نظیر که فراتر از یافتن اطلاعات بوده و به استفاده از آن‌ها نیز اشاره دارد. به‌عنوان‌مثال ممکن است قصد داشته باشید اطلاعاتی را درباره یک دوچرخه به دست آورید، اما SGE این حس را به شما القا می‌کند که تجربه‌تان از جستجو و کسب اطلاعات را به‌صورت یک پست در شبکه اجتماعی‌تان به اشتراک بگذارید.

هرچند جستجو مولد SGE مهارت بالایی در زمینه تجربه خلاقانه دارد، بااین‌حال کاربران ممکن است متوجه محدودیت‌هایی در این زمینه شوند؛ زیرا موتور جستجوی گوگل بیشتر از هر چیزی بر حفظ امنیت و کیفیت تأکید دارد و این مسیری است که درگذر زمان به بلوغ کامل می‌رسد.

ویژگی User experience

همه چیز در تجربه کاربری، بر اساس تحقیقات گسترده روی تعامل افراد صورت می‌گیرد و گوگل نیز سال‌هاست که رابط کاربری جستجوی خود را با ویژگی‌های مفید و با دسترس‌پذیری بیشتر توسعه داده است. با پیوستن فناوری‌های هوش مصنوعی به جستجوی گوگل، SGE نیز تجربه‌ای یکپارچه را بر مبنی آنچه که از رفتار کاربران می‌آموزد به کار خواهد گرفت.

ویژگی snapshots به لطف نقش هوش مصنوعی مولد SGE از رابط کاربری بهینه‌ای استفاده می‌کند که دسترسی به منابع و لینک‌های مرتبط با پاسخ‌ها را بسیار ساده کرده است. ویژگی که به افراد این امکان را می‌دهد تا بیشتر از هروقت دیگری به کاوش در دسکتاپ و تلفن همراه بپردازند.

تجربه کاربری SGE به‌گونه‌ای است که ورود افراد را به بخش «Conversational mode» تسهیل می‌کند. این مهم توسط المان‌هایی که «call-outs» و «highlighted states» نامیده می‌شود امکان‌پذیر است و شباهت زیادی به پیشنهادات سرچ باکس دارد.

تغییر رنگ محیط پیرامون پاسخ‌ها در SGE نقش مهمی برای درک بهتر آن ایفا می‌کند. تم رنگ در snapshotsهای SGE را می‌توان روش جدیدی برای تعامل با نتایج دانست که هدف جستجو را به شیوه‌ای بهتر منعکس می‌کند.

استفاده مسئولانه از هوش مصنوعی

تجربه کنونی SGE به صورت آزمایشی و مطابق با اصول هوش مصنوعی گوگل است.

این موتور جستجو می‌گوید: «ما گام‌های گسترده‌ای در زمینه توسعه مسئولانه هوش مصنوعی برداشته‌ایم که با رویکردی دقیق و سنجیده، با این تجربه بی‌نظیر همراه بوده است. ما به تکامل و بهبود مأموریت خود ادامه خواهیم داد و با کارشناسان این صنعت، سیاست‌گذاران، جامعه مدنی و حقوق بشر، تولیدکنندگان محتوا و غیره تعامل خواهیم داشت.»

هوش مولد SGE توسط انواع مدل‌های زبان بزرگ مانند نسخه پیشرفته MUM و PaLM2 پشتیبانی می‌شود. با بهره‌گیری از مدل‌های مختلف و مجموعه ویژگی‌های آن‌ها، قادر به بهینه‌سازی انواع دیگری از مدل‌ها خواهیم بود که علاوه بر برآورده‌ساختن نیازهای منحصربه‌فرد کاربران، آن‌ها را در جستجوهای «informational» بهتر یاری خواهیم رساند.

امروزه افراد بسیاری به طور مستقیم با انواع مدل‌های زبان سروکار دارند که از جمله آن می‌توان به استفاده از چت‌بات‌هایی مثل Bard اشاره کرد. هرچند SGE از مدل‌های بزرگ زبان استفاده می‌کند، بااین‌حال به شکلی هدف‌مند آموزش‌داده‌شده تا در کنار سیستم‌های رتبه‌بندی اصلی، برای ارائه نتایج مفید و قابل‌اعتماد استفاده شود.

با تعیین وظایف و شرایط بخصوص در SGE می‌توان برخی از محدودیت‌های موجود در LLMها مانند توهم و یا عدم دقت کافی را به میزان قابل‌توجهی کاهش داد. در این زمینه نیز به کمک سیستم‌های کیفیت جستجو و باتکیه‌بر توانایی آن‌ها در شناسایی منابع معتبر و رتبه‌بندی اطلاعات باکیفیت بالا و قابل‌اعتماد، چالش‌های زیادی پشت سر گذاشته شده است.

ارزیابی بر اساس ورودی‌های انسانی

استفاده از داده‌های ورودی و ارزیابی‌هایی که توسط انسان‌ها انجام می‌شود، نقش به‌سزایی در توسعه مسئولانه محصولات مبتنی بر هوش مصنوعی دارد. بر همین اساس به‌موازات بررسی‌هایی که برای کیفیت خروجی SGE انجام می‌شود، از ورودی‌های انسانی که روی ویژگی‌هایی مانند طول، نوع و ترتیب تمرکز دارد، استفاده شده است.

جستجوی گوگل از مدت‌ها پیش، از ورودی‌ها و ارزیابی‌های انسانی جهت آموزش و بهبود سیستم‌های رتبه‌بندی استفاده کرده است. بر همین اساس داده‌های به‌دست‌آمده از آموخته‌هایی که به‌خوبی مورد آزمایش قرار گرفته اکنون در آموزش و توسعه مدل هوش مصنوعی SGE به کار گرفته می‌شود.

ورودی‌های مورداستفاده برای آموزش و توسعه هوش مصنوعی مولد SGE

ارزیاب‌های گوگل (Raters) به کمک ارزیاب‌های انسانی که به‌صورت مستقل به بررسی کیفیت جستجو می‌پردازند، خروجی‌ها و نتایج نمایش‌داده‌شده توسط SGE را بررسی می‌کند. رتبه‌بندی و ارزیابی Raterها برای آموزش مدل‌های بزرگ زبان و بهبود کلی تجربه نتایج SGE مورداستفاده قرار می‌گیرد.

تجزیه‌وتحلیل متمرکز (Focused analysis) در مسیر بهبود SGE، گوگل روی حوزه‌هایی تمرکز دارد که ممکن است شامل کوئری‌های حساس و پیچیده‌ای باشند، زیرا نتایج تولیدشده آن‌ها ممکن است خروجی نهایی را در معرض خطرات کیفی قرار دهد.

به بیان دیگر، گوگل با انجام مطالعات دقیق‌تر، صحت پاسخ‌های SGE را بررسی می‌کند و در زمینه‌های به‌خصوصی که ممکن است کیفیت نتایج را به خطر بیندازد، توجه بیشتری برای اطمینان از کارآمدبودن بهینه‌سازی‌های انجام‌شده دارد.

تیم قرمز (Red-teaming) طبق تعریف آژانس امنیت ملی آمریکا (NSA)، تیم قرمز به نهادی گفته می‌شود که با شبیه‌سازی عملیات هکرهای واقعی در دنیای مجازی و با استفاده از تمام تکنیک‌های نفوذ، نقاط آسیب‌پذیر سیستم‌های امنیتی را که می‌تواند تهدیدی برای سازمان باشد، شناسایی می‌کند.

وظیفه تیم قرمز در SGE، اجرای آزمون‌هایی برای شناسایی نواقص و مشکلات سیستم‌ و بهبود آن‌هاست. این ارزیابی‌ها در شناسایی مسائلی مانند تعصب، امنیت و سایر زمینه‌هایی که می‌توان سیستم را در آن بهبود داد، مفید هستند.

گوگل همواره باتکیه‌بر مطالعه و تحقیق، به تکامل و بهبود این رویکردها ادامه می‌دهد. یکی از تکنیک‌های مورداستفاده دراین‌خصوص «Research-backed» نام دارد که به معنای تکامل و بهبود بر مبنی تحقیقات است. به‌عبارت‌دیگر، «Research-backed» به روش‌ها و ایده‌هایی اشاره دارد که با استفاده از داده‌های علمی به تحلیل فرایندها پرداخته و در طراحی و توسعه محصول موجب بهبود کیفیت و افزایش عملکرد آن می‌شود.

سیستم‌های کیفیت جستجو

افراد عموماً به جستجوی چیزهایی می‌پردازند که قصد دارند درباره‌اش تحقیق کرده و از صحت آن اطمینان حاصل کنند. موتور جستجوی گوگل استانداردهای بالایی برای نمایش اطلاعات قابل‌اعتماد، مفید و باکیفیت دارد که ریشه در سیستم اصلی رتبه‌بندی جستجو و سیستم‌های کیفیت داشته و برای دهه‌ها در حال تکامل بوده است.

گوگل سال‌هاست که همگام پیشرفت‌های هوش مصنوعی، نتایج جستجو را ارتقا می‌بخشد و همین امر باعث شده تا بجای نمایش محتوای مضر، نفرت‌انگیز یا توهین‌آمیز، نتایج دقیق و قابل‌اعتماد همواره به سرپ راه پیدا کند.

وقتی نوبت به نمایش پاسخ‌های مرتبط با کوئری‌هایی می‌رسد که کیفیت اطلاعات در آن‌ها بسیار مهم است، استانداردهای SGE وارد سطح بالاتر و حساس‌تری خواهد شد. در حوزه YMYL مانند امور مالی، بهداشت و چیزهایی که مردم انتظار دارند اعتماد بیشتری به نتایج داشته باشند، تأکید زیادی بر محتوای تولید شده توسط منابع معتبر وجود دارد.

مدل‌های مرتبط با SGE به‌گونه‌ای آموزش‌داده‌شده‌اند که در صورت لزوم، پاسخ‌های مولد مرتبط با YMYL را با نمایش پیام سلب مسئولیت به خروجی بیاورند.

به‌عنوان‌مثال، نتایج جستجوی مولد گوگل (SGE) در مورد پرسش‌های مرتبط با حوزه سلامت، بر سلب مسئولیت از پاسخ تولیدشده تأکید می‌کند. این یعنی گوگل از جستجوگران می‌خواهد تا برای توصیه‌های پزشکی صرفاً به اطلاعات اعتماد نکرده و برای مراقبت‌های فردی به متخصصان پزشکی مراجعه کنند.

SGE طوری طراحی شده تا برای بعضی موضوعات حساس پاسخی تولید نکند. در برخی موضوعات ممکن است به دلیل فقر محتوای باکیفیت یا عدم وجود اطلاعات قابل‌اعتماد، همین‌طور در شرایطی که خلأ داده و شکاف اطلاعات باعث می‌شود سیستم‌ها اعتماد کمتری به پاسخ‌ها داشته باشند، SGE تلاش می‌کند تا snapshotsهای هوش مصنوعی را تولید نکند. همچنین SGE برای تولید snapshots در موضوعات صریح یا خطرناک یا برای کوئری‌هایی که پاسخ‌ها از آسیب‌پذیری به بالقوه‌ای برخوردار هستند، به طور خودکار از اطلاعات منابع رسمی و قابل‌اعتماد استفاده کرده و یا از تولید پاسخ خودداری می‌کند.

خط‌مشی‌ها

سیستم‌های گوگل به‌صورت خودکار از نمایش محتوای نقض‌کننده خط‌مشی‌ها جلوگیری می‌کنند. هوش مولد SGE نیز به طور بخصوص با این سیاست‌ها همسو شده است تا در تولید پاسخ‌های صریح، نفرت‌انگیز، خشونت‌آمیز یا متناقض با اجماع و موضوعات مربوط به منافع عمومی دقت عمل بالایی داشته باشد.

سیستم‌های رتبه‌بندی معمولاً قبل از نمایش محتوای نقض‌کننده خط‌مشی‌ها به ایفای نقش می‌پردازند، بااین‌حال از آنجایی که SGE هنوز در مرحله تکامل قرار دارد ممکن است هنگام تولید متن، شواهدی مبنی بر نقض خط‌مشی‌ها در آن دیده شود. در چنین شرایطی برای جلوگیری از نمایش مجدد محتوای ناقض سیاست‌ها، اقداماتی انجام می‌شود که به پیشرفت مدل‌ها نیز کمک می‌کند.

فقدان شخصیت

گاهی اوقات، مدل‌های بزرگ زبان، پتانسیل ایجاد پاسخ‌هایی را دارند که به نظر می‌رسد منعکس‌کننده نظرات یا احساسات یک شخصیت است، زیرا مدل‌های زبانی طوری آموزش‌داده‌شده‌اند که افراد برای انعکاس تجربه انسانی از آن‌ها استفاده کنند. گوگل به SGE یاد داده تا از بازتاب شخصیت خودداری کرده و پاسخ‌های اول‌شخص تولید نکند. بااین‌حال مدل SGE به‌گونه‌ای تنظیم شده تا پاسخ‌های عینی را به‌صورت خنثی ارائه و با نتایج وب منطبق سازد.

محدودیت‌های قابل‌انتظار

با اینکه طیف وسیعی از شاخص‌های امنیتی در جستجوی مولد SGE در نظر گرفته شده است، همچنان محدودیت‌های شناخته‌شده‌ای در مدل‌های بزرگ زبان و SGE وجود دارد که در فرم اولیه و شکل تجربی هر دو یافت می‌شود.

در ادامه به معرفی الگوهای قابل انتظاری پرداخته می‌شود که در طول ارزیابی‌های صورت‌گرفته از SGE، شناسایی شده‌اند. در بسیاری از موارد، به‌روزرسانی‌های متعدد و تنظیمات دقیقی روی مدل‌های مربوطه انجام شده که انتظار می‌رود در مسیر تکامل SGE پیشرفت‌های چشمگیری وجود داشته باشد.

تفسیر نادرست: مواردی مشاهده شده که SGE اطلاعات تولید شده را برای نمایش در snapshots به‌درستی تشخیص داده، اما یک تعبیر نادرست معنای خروجی را تغییر داده است.

توهم: مانند تجربیاتی که در تمام مدل‌های بزرگ زبان وجود دارد، گاهی ممکن است SGE نیز حقایق را به شکلی نادرست بیان کرده یا بینش‌هایی را شناسایی کند که در فرم خروجی، نتوان به استنباط صحیحی دست‌یافت.

سوگیری: ازآنجایی‌که SGE برای تولید پاسخ‌ها، بر اساس منابع باکیفیت بالا آموزش‌دیده است، ممکن است یک snapshots را به نحوی نمایش دهد که به نسبت آنچه در وب موجود است، محدودتر بوده و منعکس‌کننده نوعی سوگیری باشد. چنین بازتابی ممکن است این تصور را ایجاد کند که مدل مولد SGE، سوگیری انجام شده را آموزش‌دیده باشد، درحالی‌که دیدگاه مستقل هوش مصنوعی است.

می‌توان گفت به‌احتمال زیاد SGE خروجی‌هایی را تولید می‌کند که منعکس‌کننده سوگیری‌های موجود در منابع دارای رتبه‌های بالاست، زیرا چنین پدیده‌ای در نتایج جستجوی کنونی نیز رخ می‌دهد. به‌عنوان‌مثال، رسانه‌های معتبر اغلب هنگام نوشتن محتوایی درباره «ورزش‌های مردانه»، صفت «Male» را اضافه نمی‌کنند. به همین دلیل، کوئری‌های جستجو شده در خصوص آن ورزش، ممکن است افراد یا تیم‌های مردانه را هدف‌گذاری کرده باشد، حتی اگر در واقعیت این طور نباشد.

به بیان دیگر با اینکه اطلاعات و داده‌های مربوط به ورزش‌های زنانه نیز به‌اندازه ورزش‌های مردانه وجود دارد، احتمال می‌رود هوش مصنوعی بر اساس سوگیری‌های منابع معتبر وب، برای جستجوی یک کوئری ورزشی نتایج مربوط به ورزش‌های مردانه را نمایش دهد.

محتوا و نظر شخصی: SGE طوری طراحی شده که خروجی snapshots را با لحن خنثی و عینی تولید کند، بااین‌حال ممکن است مواردی وجود داشته باشد که خروجی آن منعکس‌کننده نظرات موجود در وب باشد. به بیان دیگر پاسخ‌های مولد این تصور را ایجاد می‌کنند که گویی تداعی‌کننده اظهارنظر یک شخصیت باشد.

تکرار یا تناقض: از آنجایی‌ که پاسخ‌های تولید شده توسط SGE با نتایج جستجو ادغام شده است، این احتمال وجود دارد که خروجی آن با سایر اطلاعات موجود در سرپ تفاوت‌هایی داشته باشد.
علی‌رغم پیشرفت‌های چشمگیر صورت‌گرفته در کیفیت و امنیت، بخشی از رویکرد گوگل در توسعه مسئولانه SGE بر توجه به انتظارات کاربران و محدودیت‌های موجود بنا نهاده شده است.

سخن پایانی

هوش مولد SGE از طریق Search Labs در اختیار مردم قرار داده شده تا فرصت تعامل با این فناوری جدید را داشته باشند. با اینکه SGE هنوز در مرحله آزمایشی به سر می‌برد، گوگل دائماً در حال بهبود تجربه آن بوده و به افزایش کیفیت و قابلیت‌های این مدل مولد متعهد است. با اشتراک‌گذاری تجربه خود ضمن ادامه‌دادن مسیر بهبود، آینده جستجو را با یکدیگر خواهیم ساخت. اگر تجربه‌ای در استفاده از این هوش مصنوعی دارید، خوشحال می‌شویم که در بخش نظرات با ما در میان بگذارید.