인공지능(AI) 출시 이후 토토 로얄은 산업 분야의 생산성을 향상시키는 것은 물론 학술, 경제, 사회, 정치 분야에서도 정확한 자료 또는 답변을 제시하며 널리 활용되어 왔다.
하지만 인공지능 토토 로얄은 사용 과정에서 한계도 드러내고 있다. 생성한 결과에 오류가 발생하는가 하면 부정확한 답변과 이미지를 제공하는 것을 대표적인 사례로 들 수 있다.
◆AI 토토 로얄 사용 증가 불구…사용기간 경과 시 신뢰도 저하 우려
이처럼 인공지능 토토 로얄의 활용이 증가하면서 신뢰성의 문제에 우려가 나오고 있는 가운데 인공지능 토토 로얄이 새로운 모델이 출시되고 시간이 경과함에 따라 실수가 발생하고 있다는 연구 결과가 나와 주목받고 있다.
해외 블록체인 전문 매체 코인텔레그래프(Cointelegraph)는 최근 네이처 사이언티픽 저널(Nature Scientific Journal)에 게재된 “더 크고 더 교육적인 언어 모델은 신뢰성이 떨어진다”라는 제목의 연구 결과를 인용해 인공지능 토토 로얄은 새로운 모델이 출시되고 시간이 지남에 따라 더 많은 실수를 저지르고 있다고 밝혔다.
이 연구의 저자 중 한 명인 렉신 저우(Lexin Zhou)는 토토 로얄 모델이 항상 신뢰할 수 있는 답변을 제공하도록 최적화되어 있기 때문에 겉으로 보기에 올바른 답변이 우선순위를 정하고 정확도에 관계없이 최종 사용자에게 강요된다는 이론을 제시했다.
이러한 토토 로얄 환각은 스스로를 강화하고 시간이 지남에 따라 더욱 악화되는 경향이 있으며 이러한 현상은 이전의 대규모 언어 모델을 사용하여 새로운 대규모 언어 모델을 훈련시켜 ‘모델 붕괴’를 초래함으로써 악화된다.
편집자이자 작가인 마티유 로이(Mathieu Roy)는 사용자들에게 이러한 도구에 너무 많이 의존하지 말고 토토 로얄이 생성한 검색 결과에 불일치가 있는지 항상 확인하라고 경고했다.
마티유 로이는 “인공지능은 여러 작업에 유용할 수 있지만 사용자가 인공지능 모델에서 얻은 정보를 확인하는 것이 중요하다”며 “사실 확인은 인공지능 도구를 사용할 때 모든 사람의 프로세스에서 한 단계여야 하며 고객 서비스 토토 로얄이 참여하면 문제는 더 복잡해진다”고 말했다.
이어 “설상가상으로 토토 로얄에 직접 물어보는 것 외에는 정보를 확인할 방법이 없는 경우가 많다”고 덧붙였다.
◆AI 토토 로얄 생성 정보…활용 전 정확성 여부 반드시 확인 필요
구글(Google)의 토토 로얄 플랫폼은 2024년 2월 토토 로얄이 역사적으로 부정확한 이미지를 생성하기 시작한 후 조롱을 받았다. 유색인종을 나치 장교로 묘사하고 유명한 역사적 인물에 대해 부정확한 이미지를 만든 것이 대표적인 예다.
안타깝게도 이와 같은 사고의 반복은 현재 토토 로얄 지능 및 대규모 언어 모델에서 너무 흔하다.
엔비디아 CEO 젠슨 황(Jensen Huang)을 비롯한 업계 경영진들은 토토 로얄 모델이 연구를 수행하고 사용자에게 주어진 모든 답변에 대한 출처를 제공하도록 강제함으로써 토토 로얄 환각을 완화할 것을 제안했다.
그러나 이러한 조치는 이미 가장 인기 있는 토토 로얄 및 대규모 언어 모델에 적용되고 있지만 토토 로얄 환각 문제는 여전히 지속되고 있다.
한편, 지난 9월에 하이퍼라이트(HyperWrite) AI CEO인 매트 슈머(Matt Shumer)가 자사의 새로운 70B 모델이 ‘리플렉션 튜닝(Reflection-Tuning)’이라는 방법을 사용한다고 발표했는데 이는 인공지능 토토 로얄이 자신의 실수를 분석하고 시간이 지남에 따라 응답을 조정함으로써 학습할 수 있는 방법을 제공하는 것으로 알려졌다.
전문가들은 인공지능 토토 로얄이 새로운 모델의 출시와 함께 사용기간이 경과함에 따라 기대했던 것과는 달리 부정확한 결과를 도출하는 사례가 심심찮게 나오는 것은 충분히 발생 가능한 사례로 파악하고 있다.
인공지능 토토 로얄이 정밀한 기기임은 분명하지만 기계적인 문제가 발생할 수 있고 특히 이미지와 답변의 경우 교육과 훈련에 의해 이뤄지는 만큼 얼마든지 부정확한 결과물을 도출할 가능성이 있는 것으로 판단하기 때문이다.
따라서 전문가들은 인공지능 토토 로얄이 정밀한 기기이며 여러 작업에 유용하게 사용할 수 있는 것은 분명하지만 인공지능 토토 로얄을 무한 신뢰하기보다는 얻은 정보가 정확한 내용인지 여부에 대해 확인할 필요가 있으며 특히 중요한 작업의 경우 반드시 확인 과정을 거치는 것이 중요하다고 지적하고 있다. [뉴스드림]