Close GOP是说在当前GOP中，所有的P帧和B帧只会参考GOP内部的I帧或P帧；而Open GOP是说当前GOP中的B帧会参考邻近GOP的I帧。
如果是Close GOP，它一定是以P帧结尾；Open GOP一定是以B帧结尾。为了便于区分Close GOP和Open GOP，在一个GOP的第一帧如果是IDR帧，则该GOP为Close GOP；如果GOP的第一帧为一般的I帧，则为Open GOP。
以上可以这么理解：
如果是Close GOP，如果是B结尾，那么肯定要参考后面的帧，但是它又是GOP结尾，不允许跨GOP参考，故Close GOP必须是P结尾。
同理，Open GOP要以B结尾，这样它可以参考下一个GOP的I帧。
为什么GOP的第一帧是IDR帧，则该GOP为Close GOP？
因为GOP第一帧为IDR帧，会清空DPB，以下图Close GOP为例，当前GOP的最后一个frame为B帧，它要参考下一个GOP的I帧和它前面的P帧，所以要现对I帧编码，如果I帧为IDR帧，会把所有参考帧都清除，包括P帧，B帧没法参考P帧了，所以GOP的第一帧为IDR帧，它只能是Close GOP。