확률 기계의 원리넣으면 어떻게 나올까?
언어 모델은 다음에 올 낱말의 가능성을 계산하는 기계다. 직접 조작해 보자.
STAGE 1확률 막대를 읽어라
STAGE 2낱말을 이어 붙여라
STAGE 3데이터를 모아라
BOSS그럴듯한 거짓말을 찾아라
이 문장 뒤에 가장 올 가능성이 큰 낱말은?
그 밖의 낱말들
낱말을 이어 붙여라
한 낱말씩 이어 붙이기
되먹임 0회
데이터를 모아라
오차 ±2%p 안에서 2초 유지
30
버튼을 꾹 눌러 말뭉치를 모으자. 막대가 점선(실제 확률)에 멈추면 성공이다.
‘던졌다’를 처음 발견했다. 데이터가 적을 때는 이 낱말이 아예 없어서 확률을 매길 수 없었다.
둘 다 확률이 높아 자연스럽다. 이 중 사실이 아닌 문장은?
확률 기계가 멈췄다
생명을 모두 잃었다. 다시 해 보면 감이 잡힌다.