---
title: Grokking
date: 2025-02-05T00:08:01.000Z
updated: 2026-03-09T01:45:33.128Z
tags:
  - jargons
url: https://baku89.com/ja/Grokking
---

# Grokking

[The Jargon File](/The_Jargon_File)?

[Grokの原義](/Grok%E3%81%AE%E5%8E%9F%E7%BE%A9)

過学習してしばらく経ってから、急に汎化誤差が下がり始める（正解率が上がり始める）」という現象

[blog.recruit.co.jp](https://blog.recruit.co.jp/data/articles/neurips_2022_2/)

この現象を説明する仮説として、「学習は初期化、過学習、表現学習の順で進む。grokkingとは過学習から表現学習への相転移である」というものが提案されています 2。検証データへの汎化性能は表現学習によって獲得されますが、データが少ないとそのプロセスが阻害され、相転移にかかる時間が拡大するというわけです。