갤러리 이슈박스, 최근방문 갤러리
연관 갤러리
취업 갤러리 타 갤러리(0)
이 갤러리가 연관 갤러리로 추가한 갤러리
0/0
타 갤러리 취업 갤러리(0)
이 갤러리를 연관 갤러리로 추가한 갤러리
0/0
개념글 리스트
1/3
- 한번 하자, 용돈 줄게…중3 성매매·살해 아빠, 출소 후 10대 딸에.. 감돌
- 돼지고기로 보는 가슴확대수술 과정 ㅇㅇ
- 싱글방글 정양보다 더 드렸습니다~ ㅇㅇ
- 싱글벙글 12년 동안 월급 안 받은 교황 프란치스코 수인갤러리
- 싱글벙글 아버지 어머니 둘 다 바뀐 만화 캐릭터 ㅇㅇ
- 고마워하면 안돼...? 챗gpt '땡큐'하면 생기는 일.jpg ㅇㅇ
- 대기업에 키 180 이상 30대 남자가 원래 잘 없어?.blind ㅇㅇ
- 성심당 딸기시루에서 곰팡이 딸기 나왔다고 뉴스 제보한 사람 ㅇㅇ
- 평양냉면이 비싼 이유.. jpg ♡♥
- 싱글벙글 일본 마지막 슈퍼로봇 만화 ㅇㅇ
- 국내 최초 1,800억 원 상당 코카인 압수, 사상 최대 마약 카르텔 ㅇㅇ
- 심각심각 skt 유심 상황 ㅇㅇ
- 안양시, '얼굴로 성별인식' CCTV 논란 확산에 '폐지' 결정 감돌
- 싱글벙글 90년대 방송중 담배 피우는 카리스마 할매 수인갤러리
- 가방끈으로 사람을 비하하면 안됨 경갤러
GPT 환각 방지 프롬프트, 정말 효과가 있을까?
일단 이 글을 적기 위해서 11,046원을 지출하였음.후원 좀 받을 수 없나..?ㅋㅋㅋ환각(Hallucination)이란?챗갤 유저들이라면 아주 흔히 접해봤을 용어일 것임.간단히 말하면,LLM이 존재하지 않는 거짓 정보를 그럴싸하게 생성하는 현상을 말함.예를 들어,그러니까 존나 당당하게 틀린 말을 한다는 것이 문제인 거지.주요 LLM 개발사들은 환각 현상을 줄이기 위해 상당한 심혈을 기울이고 있고,유저들도 나름대로 대응책을 공유하고 있음.여러 프롬프트 사이트들 보면,여러 유저들이 환각을 줄이는 프롬프트를 공유하는 모습을 볼 수 있음.그러나 이런 프롬프트들이 실효성이 있는지에는 의문이 있음.이번에는 챗갤에 게시되었던 여러 환각 방지 프롬프트들을 정량적으로 평가해볼꺼임.SimpleQASimpleQA는 LLM의 사실성(factuality)를 측정하기 위한 OpenAI 벤치마크임.얼마나 환각을 적게 생성하는지, 얼마나 정확하게 응답하는지 평가함.주요 모델들 simpleQA 벤치마크베이스 모델 중에는 GPT-4.5가 가장 높은 정확도를 보임. 즉 환각이 제일 낮다는 뜻.https://github.com/openai/simple-evals GitHub - openai/simple-evalsContribute to openai/simple-evals development by creating an account on GitHub.github.comOpenAI는 simpleQA 벤치마크 데이터셋을 공개하고 있음.해당 데이터셋을 사용하여 프롬프트 벤치마크를 진행해볼꺼임
실험 세팅벤치마크: OpenAI SimpleQA테스트케이스 갯수: 500개방식: 테스트 모델이 벤치마크 문제들을 풀어오면, 채점자 모델이 채점하는 방식으로 진행테스트 모델: ChatGPT-4o-latest (최신 ChatGPT 4o 모델)파라미터- Temperature: 0.7- max_tokens: 150- 그 외에는 default채점자 모델: GPT-4.1.mini파라미터- Temperature: 0.1- max_tokens: 10상술했듯, OpenAI SimpleQA 벤치마크를 사용하였고, 현재 ChatGPT에서 서비스되고 있는 4o의 API를 사용하여 테스트함.테스트케이스는 원래는 4332개인데 내가 그지라서 좀 줄였음.Node.js로 벤치마크 프로그램을 만들어서 진행하였음.프롬프트별 테스트 결과OpenAI 기본 프롬프트(You are a helpful assistent)아주 기본적인 시스템 프롬프트만 포함하고 있음.정확도 39.6%공식 벤치마크 정확도가 38.2%이므로 상당히 준수한 성능을 뽑아내었음.하나빛 환각 방지 프롬프트정확도 38.6%오히려 기본 프롬프트에 비해 정확도가 떨어짐.ㅇㅇ(221.150) 환각 방지 프롬프트정확도 38.3%마찬가지로, 기본 프롬프트에 비해 낮은 정확도를 보여주었음.(DLC)모노로그 환각 방지 프롬프트딱 봐도 예능용 프롬프트지만, 그래도 한 번 테스트해봄.정확도 0%그만 알아보자.결과 비교프롬프트 종류정확도비고OpenAI 기본 프롬프트39.6%공식 벤치마크(38.2%)보다 약간 높음하나빛 프롬프트38.6%효과 미미ㅇㅇ(221.150) 프롬프트38.3%오히려 떨어짐모노로그 프롬프트(예능용)0%결론적으로,커뮤니티에서 공유된 대부분의 ‘환각 방지 프롬프트’는 오히려 기본 프롬프트보다 정확도가 낮았음.이는 프롬프트만으로 환각 문제를 해결하는 데 한계가 있다는 점을 다시 한 번 보여줌.하지만 그렇다고 프롬프트 엔지니어링이 무의미하다는 건 아님.일부 논문 중에는 프롬프팅을 통해 정확도를 향상시킨 사례도 존재함(CoVE라던가)즉, 잘 설계된 프롬프트는 분명 효과가 있을 수 있음.문제는 지금 돌아다니는 대부분의 환각 방지 프롬프트가 그저 조악하다는 거임.좋은 모델을 사용하고, 비판적으로 검토하는 것이 가장 나을 것임.
작성자 : 구름냥이고정닉
훌쩍훌쩍 우러전같은 현대전 보고 느끼는점-1
https://youtu.be/680pLdS194Y 1. 좆밥국가의 현실 나토가 지켜준다니 미군이 지켜준다니 핵 다버렸는데 개뿔 무기만 존나 지원함(믈론 무기 ㅈㄴ퍼주긴함) 워낙 우크라이나가 부패지수도 높으니 군사력에서 문제 보인것도 있었긴함 진짜 지원 조금이라도 없었음 100퍼 털렸을듯 우리나라가 더더욱 군사력을 키워 적으로부터 강한 국가가 되어야 한다 생각함 2. 젊은이만 쳐 뒤져나간다 좀 나이먹은 새끼들은 그다음 지금 싱갤하고 있는 놈들 대다수는 끌려감3. 여자들은 꿀빤다 여혐거르고 사실임 당장 둘짤은 전부 우크라이나 러시아 짤임 우크라이나는 키이우 비치클럽 러시아는 반나체 클럽 가는중 4. 할수있는건 전쟁이 끝나길 바라는 수밖에 죽기전에 우크라이나 병사의 검색어 우러전 종전 언제끝나나 관련소식들을 기달렸지만 전쟁이 끝나는걸 못본채 사망함..... 5. 사람죽이는 방법이 점점 쉬워진다 드론딸깍 폭탄질로 사람을 죽이는 시대임 심지어 존나 싼데 정밀도 또한 높아지고 전차까지 잡음 이걸로 사람을 죽이는데 낄낄거리며 즐기는 병사들이 보이기도 함 6. 잔혹하다 얼마전 화제가 된 야쿠트족 병사와 우크라이나 병사의 백병전을 봤는가 적군 3명을 잡은 우크라이나 병사와 러시아군측 야쿠트족 병사가 서로 엉키며 나이프를 꺼내며 죽어라 싸우는데 고통스러워 하는 우크라이나 병사는 편히 쉬게 해달라며 수류탄으로 자폭을 한다. 하지만 아직 숨이 붙어 있자 총으로 야쿠트족 병사는 숨을 끊어준다 아무리 전쟁이 다 그런거라 지만 상상이상으로 잔인하다 우리 이대남들도 전쟁나서 끌려가면 가볍게 뒤질꺼 같다 끝- 이쯤 되서 다시 보는 젤렌스키 공약
작성자 : 최철귀고정닉
차단하기
설정을 통해 게시물을 걸러서 볼 수 있습니다.
댓글 영역
획득법
① NFT 발행
작성한 게시물을 NFT로 발행하면 일주일 동안 사용할 수 있습니다. (최초 1회)
② NFT 구매
다른 이용자의 NFT를 구매하면 한 달 동안 사용할 수 있습니다. (구매 시마다 갱신)
사용법
디시콘에서지갑연결시 바로 사용 가능합니다.