구글도 AI 리뷰에 당황스러워한다. 홍수가 난 후 지난 주 동안의 덩크와 밈, 이 회사는 거대 기술 기업이 개발하지 않은 새로운 AI 기반 검색 기능에서 비롯된 낮은 품질과 노골적인 잘못된 정보를 목표로 삼았고 목요일에 일종의 버그를 발표했습니다. 웹 검색의 대명사이자 ‘세계의 정보를 정리’하고 이를 사용자의 손끝에 전달하는 데 초점을 맞춘 브랜드를 지닌 회사인 Google은 실제로 그는 블로그 게시물에 이렇게 썼습니다. “AI에 대한 이상하고 부정확하거나 도움이 되지 않는 개요가 확실히 나타났습니다.”
그만큼 실패를 인정하는 것Google 부사장이자 검색 책임자인 Liz Read가 작성한 은 AI 기술을 모든 것에 통합하려는 노력이 이제 Google 검색을 어떻게 악화시켰는지 보여주는 증거처럼 보입니다.
Reed는 “지난 주 정보”(PR을 넘어서는 것인가요?)라는 제목의 게시물에서 AI 개요가 실수를 저지르는 여러 가지 방식을 간략하게 설명합니다. 다른 대형 언어 모델(LLM)처럼 “환각”을 일으키거나 구성하지는 않지만 “질의를 잘못 해석하거나 화면에서 언어의 뉘앙스를 잘못 해석하는 등” “다른 이유로” 실수를 할 수 있습니다. ” 웹에는 좋은 정보가 많지 않습니다.”
리드는 또한 지난 주 소셜 미디어에 공유된 스크린샷 중 일부는 가짜였고, 다른 스크린샷은 “돌을 몇 개나 먹어야 하나요?”와 같은 무의미한 질문에 대한 스크린샷이었다고 지적했습니다. – 이전에는 누구도 찾지 않았던 것입니다. 이 주제에 대한 사실적 정보가 부족하기 때문에 Google의 인공 지능은 사용자를 풍자적인 콘텐츠로 안내했습니다. (바위의 경우 내용이 풍자적이었습니다.) 출판됨 지질학적 소프트웨어 제공업체의 웹사이트에서.)
구글에 “얼마나 많은 돌을 먹어야 할까요?”라고 검색해 보면 주목할 가치가 있습니다. 쓸모없는 링크가 많이 제공되거나 풍자적인 기사도 제공되므로 놀라지 않을 것입니다. “사람들이 반응하는 것은 AI가 이에 대해 자신감 있게 반응하는 것입니다.”지질학자들은 하루에 적어도 하나의 작은 돌을 섭취할 것을 권장합니다.“마치 진짜 대답인 것처럼. 기술적으로는 ‘환각’이 아닐 수도 있지만 최종 사용자는 신경 쓰지 않습니다. 미친 짓입니다.”
또한 문제가 되는 점은 Red가 Google이 “공격적인 레드 팀의 노력”을 포함하여 “출시 전에 기능을 광범위하게 테스트”했다고 주장한다는 것입니다.
그렇다면 구글에 유머 감각이 있는 사람은 없나요? 나쁜 결과를 초래할 주장에 대해 아무도 생각하지 않았습니까?
또한 Google은 지식과 진실의 원천으로서 Reddit 사용자 데이터에 대한 AI 기능의 의존도를 경시했습니다. 사람들은 Google이 검색하는 동안 정기적으로 “Reddit”을 검색어에 추가해 왔지만 마지막으로 내장 검색 필터로 만들었습니다.Reddit은 사실적 지식의 모음이 아닙니다. 그러나 AI는 Reddit에 대한 직접적인 지식이 언제 유용하고 언제 그렇지 않은지, 또는 더 나쁘게는 트롤일 때 이해하지 못한 채 Reddit 포럼 게시물을 참조하여 질문에 답합니다.
오늘의 레딧은 은행 만들기 다음과 같은 회사에 데이터를 제공함으로써 Google, 오픈AI 그리고 기타 하지만 이는 사용자가 Google의 AI가 Reddit에서 답변을 검색할 시기를 결정하거나 누군가의 의견이 사실이라고 제안하기를 원한다는 의미는 아닙니다. Reddit에서 언제 검색해야 하는지 학습하는 데는 미묘한 차이가 있지만 Google의 AI는 아직 이를 이해하지 못합니다.
Reed는 “포럼은 실제적이고 직접적인 정보를 얻을 수 있는 훌륭한 소스인 경우가 많지만 어떤 경우에는 피자에 치즈를 붙이기 위해 접착제를 사용하는 것과 같은 도움이 되지 않는 조언으로 이어질 수도 있습니다”라고 그녀는 한 가지 팁을 언급하면서 말합니다. . 지난 주 가장 눈에 띄는 AI 실패 중 하나입니다.
Google의 AI 개요에서는 피자에 치즈를 붙이기 위해 접착제를 추가할 것을 제안했으며 출처는 F*cksmith 사용자의 11년 된 Reddit 댓글로 밝혀졌습니다 😂 pic.twitter.com/uDPAbsAKEO
– 피터 양(@petergyang) 2024년 5월 23일
https://platform.twitter.com/widgets.js
지난 주가 재앙이었다면, 결과적으로 구글은 적어도 빠르게 상황을 전환하고 있다고 합니다.
회사는 AI 개요의 예를 살펴보고 비논리적인 쿼리에 대한 더 나은 탐지 메커니즘 구축, 오해의 소지가 있는 조언을 제공할 수 있는 응답에 대한 사용자 생성 콘텐츠 사용 제한, 쿼리에 대한 트리거 제한 추가 등 더 잘 작동할 수 있는 패턴을 식별했다고 밝혔습니다. AI 개요는 “신선함과 사실성이 중요한” 중요한 뉴스 주제에 대한 AI 개요를 보여주지 않았고 건강 검색 보호에 추가적인 동기 부여 개선을 추가했기 때문에 도움이 되지 않았습니다.
날로 더 좋아지는 챗봇을 만드는 AI 기업들에게 문제는 그들이 Google 검색을 능가하여 우리가 세상에 대한 정보를 이해하는 데 도움이 될지 여부가 아니라 Google 검색이 미래에 AI를 따라잡아 도전할 수 있을지 여부입니다. 뒤쪽에.
Google의 실수가 어리석을 수도 있지만, 아직은 경쟁에서 제외하기에는 너무 이릅니다. 특히 기본적으로 검색을 사용하는 모든 사람으로 구성된 Google의 베타 테스트 팀의 규모를 고려하면 더욱 그렇습니다.
Reed는 “수백만 명의 사람들이 수많은 새로운 검색에 이 기능을 사용하는 것과 같은 것은 없습니다.”라고 말합니다.
“트위터를 통해 다양한 주제에 대한 생각을 나누는 아 동율은 정신적으로 깊이 있습니다. 그는 맥주를 사랑하지만, 때로는 그의 무관심함이 돋보입니다. 그러나 그의 음악에 대한 열정은 누구보다도 진실합니다.”