v4l2-request-hwdec.patch

   1 From 5e154b0357829007566930846f880b9f5fb404d9 Mon Sep 17 00:00:00 2001
   2 From: Jonas Karlman <jonas@kwiboo.se>
   3 Date: Mon, 3 Dec 2018 23:48:04 +0100
   4 Subject: [PATCH] avutil: add av_buffer_pool_flush()
   5
   6 Used by V4L2 request API hwaccel
   7
   8 Signed-off-by: Jonas Karlman <jonas@kwiboo.se>
   9 ---
  10  libavutil/buffer.c | 13 +++++++++++++
  11  libavutil/buffer.h |  5 +++++
  12  2 files changed, 18 insertions(+)
  13
  14 diff --git a/libavutil/buffer.c b/libavutil/buffer.c
  15 index 38a554208a90..b0fedabc3e7d 100644
  16 --- a/libavutil/buffer.c
  17 +++ b/libavutil/buffer.c
  18 @@ -273,6 +273,19 @@ static void buffer_pool_free(AVBufferPool *pool)
  19      av_freep(&pool);
  20  }
  21
  22 +void av_buffer_pool_flush(AVBufferPool *pool)
  23 +{
  24 +    ff_mutex_lock(&pool->mutex);
  25 +    while (pool->pool) {
  26 +        BufferPoolEntry *buf = pool->pool;
  27 +        pool->pool = buf->next;
  28 +
  29 +        buf->free(buf->opaque, buf->data);
  30 +        av_freep(&buf);
  31 +    }
  32 +    ff_mutex_unlock(&pool->mutex);
  33 +}
  34 +
  35  void av_buffer_pool_uninit(AVBufferPool **ppool)
  36  {
  37      AVBufferPool *pool;
  38 diff --git a/libavutil/buffer.h b/libavutil/buffer.h
  39 index c0f3f6cc9abe..998beec9ac5b 100644
  40 --- a/libavutil/buffer.h
  41 +++ b/libavutil/buffer.h
  42 @@ -267,6 +267,11 @@ AVBufferPool *av_buffer_pool_init2(int size, void *opaque,
  43                                     AVBufferRef* (*alloc)(void *opaque, size_t size),
  44                                     void (*pool_free)(void *opaque));
  45
  46 +/**
  47 + * Free all available buffers in a buffer pool.
  48 + */
  49 + void av_buffer_pool_flush(AVBufferPool *pool);
  50 +
  51  /**
  52   * Mark the pool as being available for freeing. It will actually be freed only
  53   * once all the allocated buffers associated with the pool are released. Thus it
  54 From 01319970d90ffd3c073b054a3d2e4784f6ebea0d Mon Sep 17 00:00:00 2001
  55 From: Jonas Karlman <jonas@kwiboo.se>
  56 Date: Sat, 15 Dec 2018 22:32:16 +0100
  57 Subject: [PATCH] Add common V4L2 request API code
  58
  59 Signed-off-by: Jonas Karlman <jonas@kwiboo.se>
  60 ---
  61  configure                 |  12 +
  62  libavcodec/Makefile       |   1 +
  63  libavcodec/hwconfig.h     |   2 +
  64  libavcodec/v4l2_request.c | 984 ++++++++++++++++++++++++++++++++++++++
  65  libavcodec/v4l2_request.h |  77 +++
  66  5 files changed, 1076 insertions(+)
  67  create mode 100644 libavcodec/v4l2_request.c
  68  create mode 100644 libavcodec/v4l2_request.h
  69
  70 diff --git a/configure b/configure
  71 index 8569a60bf827..9f9909a23696 100755
  72 --- a/configure
  73 +++ b/configure
  74 @@ -274,6 +274,7 @@ External library support:
  75    --enable-libtls          enable LibreSSL (via libtls), needed for https support
  76                             if openssl, gnutls or mbedtls is not used [no]
  77    --enable-libtwolame      enable MP2 encoding via libtwolame [no]
  78 +  --enable-libudev         enable libudev [no]
  79    --enable-libuavs3d       enable AVS3 decoding via libuavs3d [no]
  80    --enable-libv4l2         enable libv4l2/v4l-utils [no]
  81    --enable-libvidstab      enable video stabilization using vid.stab [no]
  82 @@ -342,6 +343,7 @@ External library support:
  83    --enable-omx-rpi         enable OpenMAX IL code for Raspberry Pi [no]
  84    --enable-rkmpp           enable Rockchip Media Process Platform code [no]
  85    --disable-v4l2-m2m       disable V4L2 mem2mem code [autodetect]
  86 +  --enable-v4l2-request    enable V4L2 request API code [no]
  87    --disable-vaapi          disable Video Acceleration API (mainly Unix/Intel) code [autodetect]
  88    --disable-vdpau          disable Nvidia Video Decode and Presentation API for Unix code [autodetect]
  89    --disable-videotoolbox   disable VideoToolbox code [autodetect]
  90 @@ -1807,6 +1809,7 @@ EXTERNAL_LIBRARY_LIST="
  91      libtesseract
  92      libtheora
  93      libtwolame
  94 +    libudev
  95      libuavs3d
  96      libv4l2
  97      libvmaf
  98 @@ -1861,6 +1864,7 @@ HWACCEL_LIBRARY_LIST="
  99      mmal
 100      omx
 101      opencl
 102 +    v4l2_request
 103  "
 104
 105  DOCUMENT_LIST="
 106 @@ -2903,6 +2907,7 @@ d3d11va_deps="dxva_h ID3D11VideoDecoder ID3D11VideoContext"
 107  dxva2_deps="dxva2api_h DXVA2_ConfigPictureDecode ole32 user32"
 108  ffnvcodec_deps_any="libdl LoadLibrary"
 109  nvdec_deps="ffnvcodec"
 110 +v4l2_request_deps="linux_videodev2_h linux_media_h v4l2_timeval_to_ns libdrm libudev"
 111  vaapi_x11_deps="xlib_x11"
 112  videotoolbox_hwaccel_deps="videotoolbox pthreads"
 113  videotoolbox_hwaccel_extralibs="-framework QuartzCore"
 114 @@ -6376,6 +6381,7 @@ enabled libtls            && require_pkg_config libtls libtls tls.h tls_configur
 115  enabled libtwolame        && require libtwolame twolame.h twolame_init -ltwolame &&
 116                               { check_lib libtwolame twolame.h twolame_encode_buffer_float32_interleaved -ltwolame ||
 117                                 die "ERROR: libtwolame must be installed and version must be >= 0.3.10"; }
 118 +enabled libudev           && require_pkg_config libudev libudev libudev.h udev_new
 119  enabled libuavs3d         && require_pkg_config libuavs3d "uavs3d >= 1.1.41" uavs3d.h uavs3d_decode
 120  enabled libv4l2           && require_pkg_config libv4l2 libv4l2 libv4l2.h v4l2_ioctl
 121  enabled libvidstab        && require_pkg_config libvidstab "vidstab >= 0.98" vid.stab/libvidstab.h vsMotionDetectInit
 122 @@ -6475,6 +6481,10 @@ enabled rkmpp             && { require_pkg_config rkmpp rockchip_mpp  rockchip/r
 123                                 { enabled libdrm ||
 124                                   die "ERROR: rkmpp requires --enable-libdrm"; }
 125                               }
 126 +enabled v4l2_request      && { enabled libdrm ||
 127 +                               die "ERROR: v4l2-request requires --enable-libdrm"; } &&
 128 +                             { enabled libudev ||
 129 +                               die "ERROR: v4l2-request requires --enable-libudev"; }
 130  enabled vapoursynth       && require_pkg_config vapoursynth "vapoursynth-script >= 42" VSScript.h vsscript_init
 131
 132
 133 @@ -6556,6 +6566,8 @@ if enabled v4l2_m2m; then
 134      check_cc vp9_v4l2_m2m linux/videodev2.h "int i = V4L2_PIX_FMT_VP9;"
 135  fi
 136
 137 +check_func_headers "linux/media.h linux/videodev2.h" v4l2_timeval_to_ns
 138 +
 139  check_headers sys/videoio.h
 140  test_code cc sys/videoio.h "struct v4l2_frmsizeenum vfse; vfse.discrete.width = 0;" && enable_sanitized struct_v4l2_frmivalenum_discrete
 141
 142 diff --git a/libavcodec/Makefile b/libavcodec/Makefile
 143 index 5a6ea59715af..d74220516826 100644
 144 --- a/libavcodec/Makefile
 145 +++ b/libavcodec/Makefile
 146 @@ -153,6 +153,7 @@ OBJS-$(CONFIG_VP3DSP)                  += vp3dsp.o
 147  OBJS-$(CONFIG_VP56DSP)                 += vp56dsp.o
 148  OBJS-$(CONFIG_VP8DSP)                  += vp8dsp.o
 149  OBJS-$(CONFIG_V4L2_M2M)                += v4l2_m2m.o v4l2_context.o v4l2_buffers.o v4l2_fmt.o
 150 +OBJS-$(CONFIG_V4L2_REQUEST)            += v4l2_request.o
 151  OBJS-$(CONFIG_WMA_FREQS)               += wma_freqs.o
 152  OBJS-$(CONFIG_WMV2DSP)                 += wmv2dsp.o
 153
 154 diff --git a/libavcodec/hwconfig.h b/libavcodec/hwconfig.h
 155 index f421dc909f44..ee78d8ab8e89 100644
 156 --- a/libavcodec/hwconfig.h
 157 +++ b/libavcodec/hwconfig.h
 158 @@ -80,6 +80,8 @@ typedef struct AVCodecHWConfigInternal {
 159      HW_CONFIG_HWACCEL(0, 0, 1, D3D11VA_VLD,  NONE,         ff_ ## codec ## _d3d11va_hwaccel)
 160  #define HWACCEL_XVMC(codec) \
 161      HW_CONFIG_HWACCEL(0, 0, 1, XVMC,         NONE,         ff_ ## codec ## _xvmc_hwaccel)
 162 +#define HWACCEL_V4L2REQUEST(codec) \
 163 +    HW_CONFIG_HWACCEL(1, 0, 0, DRM_PRIME,    DRM,          ff_ ## codec ## _v4l2request_hwaccel)
 164
 165  #define HW_CONFIG_ENCODER(device, frames, ad_hoc, format, device_type_) \
 166      &(const AVCodecHWConfigInternal) { \
 167 diff --git a/libavcodec/v4l2_request.c b/libavcodec/v4l2_request.c
 168 new file mode 100644
 169 index 000000000000..5234b5049b0d
 170 --- /dev/null
 171 +++ b/libavcodec/v4l2_request.c
 172 @@ -0,0 +1,984 @@
 173 +/*
 174 + * This file is part of FFmpeg.
 175 + *
 176 + * FFmpeg is free software; you can redistribute it and/or
 177 + * modify it under the terms of the GNU Lesser General Public
 178 + * License as published by the Free Software Foundation; either
 179 + * version 2.1 of the License, or (at your option) any later version.
 180 + *
 181 + * FFmpeg is distributed in the hope that it will be useful,
 182 + * but WITHOUT ANY WARRANTY; without even the implied warranty of
 183 + * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
 184 + * Lesser General Public License for more details.
 185 + *
 186 + * You should have received a copy of the GNU Lesser General Public
 187 + * License along with FFmpeg; if not, write to the Free Software
 188 + * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 189 + */
 190 +
 191 +#include <drm_fourcc.h>
 192 +#include <linux/media.h>
 193 +#include <sys/mman.h>
 194 +#include <sys/types.h>
 195 +#include <sys/stat.h>
 196 +#include <fcntl.h>
 197 +
 198 +#include <sys/sysmacros.h>
 199 +#include <libudev.h>
 200 +
 201 +#include "decode.h"
 202 +#include "internal.h"
 203 +#include "v4l2_request.h"
 204 +
 205 +uint64_t ff_v4l2_request_get_capture_timestamp(AVFrame *frame)
 206 +{
 207 +    V4L2RequestDescriptor *req = (V4L2RequestDescriptor*)frame->data[0];
 208 +    return req ? v4l2_timeval_to_ns(&req->capture.buffer.timestamp) : 0;
 209 +}
 210 +
 211 +int ff_v4l2_request_reset_frame(AVCodecContext *avctx, AVFrame *frame)
 212 +{
 213 +    V4L2RequestDescriptor *req = (V4L2RequestDescriptor*)frame->data[0];
 214 +    memset(&req->drm, 0, sizeof(AVDRMFrameDescriptor));
 215 +    req->output.used = 0;
 216 +    return 0;
 217 +}
 218 +
 219 +int ff_v4l2_request_append_output_buffer(AVCodecContext *avctx, AVFrame *frame, const uint8_t *data, uint32_t size)
 220 +{
 221 +    V4L2RequestDescriptor *req = (V4L2RequestDescriptor*)frame->data[0];
 222 +    if (req->output.used + size + (AV_INPUT_BUFFER_PADDING_SIZE * 4) <= req->output.size) {
 223 +        memcpy(req->output.addr + req->output.used, data, size);
 224 +        req->output.used += size;
 225 +    } else {
 226 +        av_log(avctx, AV_LOG_ERROR, "%s: output.used=%u output.size=%u size=%u\n", __func__, req->output.used, req->output.size, size);
 227 +    }
 228 +    return 0;
 229 +}
 230 +
 231 +static int v4l2_request_controls(V4L2RequestContext *ctx, int request_fd, unsigned long type, struct v4l2_ext_control *control, int count)
 232 +{
 233 +    struct v4l2_ext_controls controls = {
 234 +        .controls = control,
 235 +        .count = count,
 236 +        .request_fd = request_fd,
 237 +        .which = (request_fd >= 0) ? V4L2_CTRL_WHICH_REQUEST_VAL : 0,
 238 +    };
 239 +
 240 +    if (!control || !count)
 241 +        return 0;
 242 +
 243 +    return ioctl(ctx->video_fd, type, &controls);
 244 +}
 245 +
 246 +static int v4l2_request_set_controls(V4L2RequestContext *ctx, int request_fd, struct v4l2_ext_control *control, int count)
 247 +{
 248 +    return v4l2_request_controls(ctx, request_fd, VIDIOC_S_EXT_CTRLS, control, count);
 249 +}
 250 +
 251 +int ff_v4l2_request_set_controls(AVCodecContext *avctx, struct v4l2_ext_control *control, int count)
 252 +{
 253 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 254 +    int ret;
 255 +
 256 +    ret = v4l2_request_controls(ctx, -1, VIDIOC_S_EXT_CTRLS, control, count);
 257 +    if (ret < 0) {
 258 +        av_log(avctx, AV_LOG_ERROR, "%s: set controls failed, %s (%d)\n", __func__, strerror(errno), errno);
 259 +        return AVERROR(EINVAL);
 260 +    }
 261 +
 262 +    return ret;
 263 +}
 264 +
 265 +int ff_v4l2_request_get_controls(AVCodecContext *avctx, struct v4l2_ext_control *control, int count)
 266 +{
 267 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 268 +    int ret;
 269 +
 270 +    ret = v4l2_request_controls(ctx, -1, VIDIOC_G_EXT_CTRLS, control, count);
 271 +    if (ret < 0) {
 272 +        av_log(avctx, AV_LOG_ERROR, "%s: get controls failed, %s (%d)\n", __func__, strerror(errno), errno);
 273 +        return AVERROR(EINVAL);
 274 +    }
 275 +
 276 +    return ret;
 277 +}
 278 +
 279 +int ff_v4l2_request_query_control(AVCodecContext *avctx, struct v4l2_query_ext_ctrl *control)
 280 +{
 281 +    int ret;
 282 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 283 +
 284 +    ret = ioctl(ctx->video_fd, VIDIOC_QUERY_EXT_CTRL, control);
 285 +    if (ret < 0) {
 286 +        av_log(avctx, AV_LOG_ERROR, "%s: query control failed, %s (%d)\n", __func__, strerror(errno), errno);
 287 +        return AVERROR(EINVAL);
 288 +    }
 289 +
 290 +    return 0;
 291 +}
 292 +
 293 +int ff_v4l2_request_query_control_default_value(AVCodecContext *avctx, uint32_t id)
 294 +{
 295 +    int ret;
 296 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 297 +    struct v4l2_queryctrl control = {
 298 +        .id = id,
 299 +    };
 300 +
 301 +    ret = ioctl(ctx->video_fd, VIDIOC_QUERYCTRL, &control);
 302 +    if (ret < 0) {
 303 +        av_log(avctx, AV_LOG_ERROR, "%s: query control failed, %s (%d)\n", __func__, strerror(errno), errno);
 304 +        return AVERROR(EINVAL);
 305 +    }
 306 +
 307 +    return control.default_value;
 308 +}
 309 +
 310 +static int v4l2_request_queue_buffer(V4L2RequestContext *ctx, int request_fd, V4L2RequestBuffer *buf, uint32_t flags)
 311 +{
 312 +    struct v4l2_plane planes[1] = {};
 313 +    struct v4l2_buffer buffer = {
 314 +        .type = buf->buffer.type,
 315 +        .memory = buf->buffer.memory,
 316 +        .index = buf->index,
 317 +        .timestamp.tv_usec = ctx->timestamp,
 318 +        .bytesused = buf->used,
 319 +        .request_fd = request_fd,
 320 +        .flags = ((request_fd >= 0) ? V4L2_BUF_FLAG_REQUEST_FD : 0) | flags,
 321 +    };
 322 +
 323 +    buf->buffer.timestamp = buffer.timestamp;
 324 +
 325 +    if (V4L2_TYPE_IS_MULTIPLANAR(buf->buffer.type)) {
 326 +        planes[0].bytesused = buf->used;
 327 +        buffer.bytesused = 0;
 328 +        buffer.length = 1;
 329 +        buffer.m.planes = planes;
 330 +    }
 331 +
 332 +    return ioctl(ctx->video_fd, VIDIOC_QBUF, &buffer);
 333 +}
 334 +
 335 +static int v4l2_request_dequeue_buffer(V4L2RequestContext *ctx, V4L2RequestBuffer *buf)
 336 +{
 337 +    int ret;
 338 +    struct v4l2_plane planes[1] = {};
 339 +    struct v4l2_buffer buffer = {
 340 +        .type = buf->buffer.type,
 341 +        .memory = buf->buffer.memory,
 342 +        .index = buf->index,
 343 +    };
 344 +
 345 +    if (V4L2_TYPE_IS_MULTIPLANAR(buf->buffer.type)) {
 346 +        buffer.length = 1;
 347 +        buffer.m.planes = planes;
 348 +    }
 349 +
 350 +    ret = ioctl(ctx->video_fd, VIDIOC_DQBUF, &buffer);
 351 +    if (ret < 0)
 352 +        return ret;
 353 +
 354 +    buf->buffer.timestamp = buffer.timestamp;
 355 +    return 0;
 356 +}
 357 +
 358 +const uint32_t v4l2_request_capture_pixelformats[] = {
 359 +    V4L2_PIX_FMT_NV12,
 360 +#ifdef DRM_FORMAT_MOD_ALLWINNER_TILED
 361 +    V4L2_PIX_FMT_SUNXI_TILED_NV12,
 362 +#endif
 363 +};
 364 +
 365 +static int v4l2_request_set_drm_descriptor(V4L2RequestDescriptor *req, struct v4l2_format *format)
 366 +{
 367 +    AVDRMFrameDescriptor *desc = &req->drm;
 368 +    AVDRMLayerDescriptor *layer = &desc->layers[0];
 369 +    uint32_t pixelformat = V4L2_TYPE_IS_MULTIPLANAR(format->type) ? format->fmt.pix_mp.pixelformat : format->fmt.pix.pixelformat;
 370 +
 371 +    switch (pixelformat) {
 372 +    case V4L2_PIX_FMT_NV12:
 373 +        layer->format = DRM_FORMAT_NV12;
 374 +        desc->objects[0].format_modifier = DRM_FORMAT_MOD_LINEAR;
 375 +        break;
 376 +#ifdef DRM_FORMAT_MOD_ALLWINNER_TILED
 377 +    case V4L2_PIX_FMT_SUNXI_TILED_NV12:
 378 +        layer->format = DRM_FORMAT_NV12;
 379 +        desc->objects[0].format_modifier = DRM_FORMAT_MOD_ALLWINNER_TILED;
 380 +        break;
 381 +#endif
 382 +    default:
 383 +        return -1;
 384 +    }
 385 +
 386 +    desc->nb_objects = 1;
 387 +    desc->objects[0].fd = req->capture.fd;
 388 +    desc->objects[0].size = req->capture.size;
 389 +
 390 +    desc->nb_layers = 1;
 391 +    layer->nb_planes = 2;
 392 +
 393 +    layer->planes[0].object_index = 0;
 394 +    layer->planes[0].offset = 0;
 395 +    layer->planes[0].pitch = V4L2_TYPE_IS_MULTIPLANAR(format->type) ? format->fmt.pix_mp.plane_fmt[0].bytesperline : format->fmt.pix.bytesperline;
 396 +
 397 +    layer->planes[1].object_index = 0;
 398 +    layer->planes[1].offset = layer->planes[0].pitch * (V4L2_TYPE_IS_MULTIPLANAR(format->type) ? format->fmt.pix_mp.height : format->fmt.pix.height);
 399 +    layer->planes[1].pitch = layer->planes[0].pitch;
 400 +
 401 +    return 0;
 402 +}
 403 +
 404 +static int v4l2_request_queue_decode(AVCodecContext *avctx, AVFrame *frame, struct v4l2_ext_control *control, int count, int first_slice, int last_slice)
 405 +{
 406 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 407 +    V4L2RequestDescriptor *req = (V4L2RequestDescriptor*)frame->data[0];
 408 +    struct timeval tv = { 2, 0 };
 409 +    fd_set except_fds;
 410 +    int ret;
 411 +
 412 +    av_log(avctx, AV_LOG_DEBUG, "%s: avctx=%p used=%u controls=%d index=%d fd=%d request_fd=%d first_slice=%d last_slice=%d\n", __func__, avctx, req->output.used, count, req->capture.index, req->capture.fd, req->request_fd, first_slice, last_slice);
 413 +
 414 +    if (first_slice)
 415 +        ctx->timestamp++;
 416 +
 417 +    ret = v4l2_request_set_controls(ctx, req->request_fd, control, count);
 418 +    if (ret < 0) {
 419 +        av_log(avctx, AV_LOG_ERROR, "%s: set controls failed for request %d, %s (%d)\n", __func__, req->request_fd, strerror(errno), errno);
 420 +        return -1;
 421 +    }
 422 +
 423 +    memset(req->output.addr + req->output.used, 0, AV_INPUT_BUFFER_PADDING_SIZE * 4);
 424 +
 425 +    ret = v4l2_request_queue_buffer(ctx, req->request_fd, &req->output, last_slice ? 0 : V4L2_BUF_FLAG_M2M_HOLD_CAPTURE_BUF);
 426 +    if (ret < 0) {
 427 +        av_log(avctx, AV_LOG_ERROR, "%s: queue output buffer %d failed for request %d, %s (%d)\n", __func__, req->output.index, req->request_fd, strerror(errno), errno);
 428 +        return -1;
 429 +    }
 430 +
 431 +    if (first_slice) {
 432 +        ret = v4l2_request_queue_buffer(ctx, -1, &req->capture, 0);
 433 +        if (ret < 0) {
 434 +            av_log(avctx, AV_LOG_ERROR, "%s: queue capture buffer %d failed for request %d, %s (%d)\n", __func__, req->capture.index, req->request_fd, strerror(errno), errno);
 435 +            return -1;
 436 +        }
 437 +    }
 438 +
 439 +    // NOTE: do we need to dequeue when request fails/timeout?
 440 +
 441 +    // 4. queue request and wait
 442 +    ret = ioctl(req->request_fd, MEDIA_REQUEST_IOC_QUEUE, NULL);
 443 +    if (ret < 0) {
 444 +        av_log(avctx, AV_LOG_ERROR, "%s: queue request %d failed, %s (%d)\n", __func__, req->request_fd, strerror(errno), errno);
 445 +        goto fail;
 446 +    }
 447 +
 448 +    FD_ZERO(&except_fds);
 449 +    FD_SET(req->request_fd, &except_fds);
 450 +
 451 +    ret = select(req->request_fd + 1, NULL, NULL, &except_fds, &tv);
 452 +    if (ret == 0) {
 453 +        av_log(avctx, AV_LOG_ERROR, "%s: request %d timeout\n", __func__, req->request_fd);
 454 +        goto fail;
 455 +    } else if (ret < 0) {
 456 +        av_log(avctx, AV_LOG_ERROR, "%s: select request %d failed, %s (%d)\n", __func__, req->request_fd, strerror(errno), errno);
 457 +        goto fail;
 458 +    }
 459 +
 460 +    ret = v4l2_request_dequeue_buffer(ctx, &req->output);
 461 +    if (ret < 0) {
 462 +        av_log(avctx, AV_LOG_ERROR, "%s: dequeue output buffer %d failed for request %d, %s (%d)\n", __func__, req->output.index, req->request_fd, strerror(errno), errno);
 463 +        return -1;
 464 +    }
 465 +
 466 +    if (last_slice) {
 467 +        ret = v4l2_request_dequeue_buffer(ctx, &req->capture);
 468 +        if (ret < 0) {
 469 +            av_log(avctx, AV_LOG_ERROR, "%s: dequeue capture buffer %d failed for request %d, %s (%d)\n", __func__, req->capture.index, req->request_fd, strerror(errno), errno);
 470 +            return -1;
 471 +        }
 472 +    }
 473 +
 474 +    // TODO: check errors
 475 +    // buffer.flags & V4L2_BUF_FLAG_ERROR
 476 +
 477 +    ret = ioctl(req->request_fd, MEDIA_REQUEST_IOC_REINIT, NULL);
 478 +    if (ret < 0) {
 479 +        av_log(avctx, AV_LOG_ERROR, "%s: reinit request %d failed, %s (%d)\n", __func__, req->request_fd, strerror(errno), errno);
 480 +        return -1;
 481 +    }
 482 +
 483 +    if (last_slice)
 484 +        return v4l2_request_set_drm_descriptor(req, &ctx->format);
 485 +
 486 +    return 0;
 487 +
 488 +fail:
 489 +    ret = v4l2_request_dequeue_buffer(ctx, &req->output);
 490 +    if (ret < 0)
 491 +        av_log(avctx, AV_LOG_ERROR, "%s: dequeue output buffer %d failed for request %d, %s (%d)\n", __func__, req->output.index, req->request_fd, strerror(errno), errno);
 492 +
 493 +    ret = v4l2_request_dequeue_buffer(ctx, &req->capture);
 494 +    if (ret < 0)
 495 +        av_log(avctx, AV_LOG_ERROR, "%s: dequeue capture buffer %d failed for request %d, %s (%d)\n", __func__, req->capture.index, req->request_fd, strerror(errno), errno);
 496 +
 497 +    ret = ioctl(req->request_fd, MEDIA_REQUEST_IOC_REINIT, NULL);
 498 +    if (ret < 0)
 499 +        av_log(avctx, AV_LOG_ERROR, "%s: reinit request %d failed, %s (%d)\n", __func__, req->request_fd, strerror(errno), errno);
 500 +
 501 +    return -1;
 502 +}
 503 +
 504 +int ff_v4l2_request_decode_slice(AVCodecContext *avctx, AVFrame *frame, struct v4l2_ext_control *control, int count, int first_slice, int last_slice)
 505 +{
 506 +    V4L2RequestDescriptor *req = (V4L2RequestDescriptor*)frame->data[0];
 507 +
 508 +    // fall back to queue each slice as a full frame
 509 +    if ((req->output.capabilities & V4L2_BUF_CAP_SUPPORTS_M2M_HOLD_CAPTURE_BUF) != V4L2_BUF_CAP_SUPPORTS_M2M_HOLD_CAPTURE_BUF)
 510 +        return v4l2_request_queue_decode(avctx, frame, control, count, 1, 1);
 511 +
 512 +    return v4l2_request_queue_decode(avctx, frame, control, count, first_slice, last_slice);
 513 +}
 514 +
 515 +int ff_v4l2_request_decode_frame(AVCodecContext *avctx, AVFrame *frame, struct v4l2_ext_control *control, int count)
 516 +{
 517 +    return v4l2_request_queue_decode(avctx, frame, control, count, 1, 1);
 518 +}
 519 +
 520 +static int v4l2_request_try_format(AVCodecContext *avctx, enum v4l2_buf_type type, uint32_t pixelformat)
 521 +{
 522 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 523 +    struct v4l2_fmtdesc fmtdesc = {
 524 +        .index = 0,
 525 +        .type = type,
 526 +    };
 527 +
 528 +    if (V4L2_TYPE_IS_OUTPUT(type)) {
 529 +        struct v4l2_create_buffers buffers = {
 530 +            .count = 0,
 531 +            .memory = V4L2_MEMORY_MMAP,
 532 +            .format.type = type,
 533 +        };
 534 +
 535 +        if (ioctl(ctx->video_fd, VIDIOC_CREATE_BUFS, &buffers) < 0) {
 536 +            av_log(avctx, AV_LOG_ERROR, "%s: create buffers failed for type %u, %s (%d)\n", __func__, type, strerror(errno), errno);
 537 +            return -1;
 538 +        }
 539 +
 540 +        if ((buffers.capabilities & V4L2_BUF_CAP_SUPPORTS_REQUESTS) != V4L2_BUF_CAP_SUPPORTS_REQUESTS) {
 541 +            av_log(avctx, AV_LOG_INFO, "%s: output buffer type do not support requests, capabilities %u\n", __func__, buffers.capabilities);
 542 +            return -1;
 543 +        }
 544 +    }
 545 +
 546 +    while (ioctl(ctx->video_fd, VIDIOC_ENUM_FMT, &fmtdesc) >= 0) {
 547 +        if (fmtdesc.pixelformat == pixelformat)
 548 +            return 0;
 549 +
 550 +        fmtdesc.index++;
 551 +    }
 552 +
 553 +    av_log(avctx, AV_LOG_INFO, "%s: pixelformat %u not supported for type %u\n", __func__, pixelformat, type);
 554 +    return -1;
 555 +}
 556 +
 557 +static int v4l2_request_set_format(AVCodecContext *avctx, enum v4l2_buf_type type, uint32_t pixelformat, uint32_t buffersize)
 558 +{
 559 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 560 +    struct v4l2_format format = {
 561 +        .type = type,
 562 +    };
 563 +
 564 +    if (V4L2_TYPE_IS_MULTIPLANAR(type)) {
 565 +        format.fmt.pix_mp.width = avctx->coded_width;
 566 +        format.fmt.pix_mp.height = avctx->coded_height;
 567 +        format.fmt.pix_mp.pixelformat = pixelformat;
 568 +        format.fmt.pix_mp.plane_fmt[0].sizeimage = buffersize;
 569 +        format.fmt.pix_mp.num_planes = 1;
 570 +    } else {
 571 +        format.fmt.pix.width = avctx->coded_width;
 572 +        format.fmt.pix.height = avctx->coded_height;
 573 +        format.fmt.pix.pixelformat = pixelformat;
 574 +        format.fmt.pix.sizeimage = buffersize;
 575 +    }
 576 +
 577 +    return ioctl(ctx->video_fd, VIDIOC_S_FMT, &format);
 578 +}
 579 +
 580 +static int v4l2_request_select_capture_format(AVCodecContext *avctx)
 581 +{
 582 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 583 +    enum v4l2_buf_type type = ctx->format.type;
 584 +
 585 +#if 0
 586 +    struct v4l2_format format = {
 587 +        .type = type,
 588 +    };
 589 +    struct v4l2_fmtdesc fmtdesc = {
 590 +        .index = 0,
 591 +        .type = type,
 592 +    };
 593 +    uint32_t pixelformat;
 594 +    int i;
 595 +
 596 +    if (ioctl(ctx->video_fd, VIDIOC_G_FMT, &format) < 0) {
 597 +        av_log(avctx, AV_LOG_ERROR, "%s: get capture format failed, %s (%d)\n", __func__, strerror(errno), errno);
 598 +        return -1;
 599 +    }
 600 +
 601 +    pixelformat = V4L2_TYPE_IS_MULTIPLANAR(type) ? format.fmt.pix_mp.pixelformat : format.fmt.pix.pixelformat;
 602 +
 603 +    for (i = 0; i < FF_ARRAY_ELEMS(v4l2_request_capture_pixelformats); i++) {
 604 +        if (pixelformat == v4l2_request_capture_pixelformats[i])
 605 +            return v4l2_request_set_format(avctx, type, pixelformat, 0);
 606 +    }
 607 +
 608 +    while (ioctl(ctx->video_fd, VIDIOC_ENUM_FMT, &fmtdesc) >= 0) {
 609 +        for (i = 0; i < FF_ARRAY_ELEMS(v4l2_request_capture_pixelformats); i++) {
 610 +            if (fmtdesc.pixelformat == v4l2_request_capture_pixelformats[i])
 611 +                return v4l2_request_set_format(avctx, type, fmtdesc.pixelformat, 0);
 612 +        }
 613 +
 614 +        fmtdesc.index++;
 615 +    }
 616 +#else
 617 +    for (int i = 0; i < FF_ARRAY_ELEMS(v4l2_request_capture_pixelformats); i++) {
 618 +        uint32_t pixelformat = v4l2_request_capture_pixelformats[i];
 619 +        if (!v4l2_request_try_format(avctx, type, pixelformat))
 620 +            return v4l2_request_set_format(avctx, type, pixelformat, 0);
 621 +    }
 622 +#endif
 623 +
 624 +    return -1;
 625 +}
 626 +
 627 +static int v4l2_request_probe_video_device(struct udev_device *device, AVCodecContext *avctx, uint32_t pixelformat, uint32_t buffersize, struct v4l2_ext_control *control, int count)
 628 +{
 629 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 630 +    int ret = AVERROR(EINVAL);
 631 +    struct v4l2_capability capability = {0};
 632 +    unsigned int capabilities = 0;
 633 +
 634 +    const char *path = udev_device_get_devnode(device);
 635 +    if (!path) {
 636 +        av_log(avctx, AV_LOG_ERROR, "%s: get video device devnode failed\n", __func__);
 637 +        ret = AVERROR(EINVAL);
 638 +        goto fail;
 639 +    }
 640 +
 641 +    ctx->video_fd = open(path, O_RDWR | O_NONBLOCK, 0);
 642 +    if (ctx->video_fd < 0) {
 643 +        av_log(avctx, AV_LOG_ERROR, "%s: opening %s failed, %s (%d)\n", __func__, path, strerror(errno), errno);
 644 +        ret = AVERROR(EINVAL);
 645 +        goto fail;
 646 +    }
 647 +
 648 +    ret = ioctl(ctx->video_fd, VIDIOC_QUERYCAP, &capability);
 649 +    if (ret < 0) {
 650 +        av_log(avctx, AV_LOG_ERROR, "%s: get video capability failed, %s (%d)\n", __func__, strerror(errno), errno);
 651 +        ret = AVERROR(EINVAL);
 652 +        goto fail;
 653 +    }
 654 +
 655 +    if (capability.capabilities & V4L2_CAP_DEVICE_CAPS)
 656 +        capabilities = capability.device_caps;
 657 +    else
 658 +        capabilities = capability.capabilities;
 659 +
 660 +    av_log(avctx, AV_LOG_DEBUG, "%s: avctx=%p ctx=%p path=%s capabilities=%u\n", __func__, avctx, ctx, path, capabilities);
 661 +
 662 +    if ((capabilities & V4L2_CAP_STREAMING) != V4L2_CAP_STREAMING) {
 663 +        av_log(avctx, AV_LOG_ERROR, "%s: missing required streaming capability\n", __func__);
 664 +        ret = AVERROR(EINVAL);
 665 +        goto fail;
 666 +    }
 667 +
 668 +    if ((capabilities & V4L2_CAP_VIDEO_M2M_MPLANE) == V4L2_CAP_VIDEO_M2M_MPLANE) {
 669 +        ctx->output_type = V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE;
 670 +        ctx->format.type = V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE;
 671 +    } else if ((capabilities & V4L2_CAP_VIDEO_M2M) == V4L2_CAP_VIDEO_M2M) {
 672 +        ctx->output_type = V4L2_BUF_TYPE_VIDEO_OUTPUT;
 673 +        ctx->format.type = V4L2_BUF_TYPE_VIDEO_CAPTURE;
 674 +    } else {
 675 +        av_log(avctx, AV_LOG_ERROR, "%s: missing required mem2mem capability\n", __func__);
 676 +        ret = AVERROR(EINVAL);
 677 +        goto fail;
 678 +    }
 679 +
 680 +    ret = v4l2_request_try_format(avctx, ctx->output_type, pixelformat);
 681 +    if (ret < 0) {
 682 +        av_log(avctx, AV_LOG_WARNING, "%s: try output format failed\n", __func__);
 683 +        ret = AVERROR(EINVAL);
 684 +        goto fail;
 685 +    }
 686 +
 687 +    ret = v4l2_request_set_format(avctx, ctx->output_type, pixelformat, buffersize);
 688 +    if (ret < 0) {
 689 +        av_log(avctx, AV_LOG_ERROR, "%s: set output format failed, %s (%d)\n", __func__, strerror(errno), errno);
 690 +        ret = AVERROR(EINVAL);
 691 +        goto fail;
 692 +    }
 693 +
 694 +    ret = v4l2_request_set_controls(ctx, -1, control, count);
 695 +    if (ret < 0) {
 696 +        av_log(avctx, AV_LOG_ERROR, "%s: set controls failed, %s (%d)\n", __func__, strerror(errno), errno);
 697 +        ret = AVERROR(EINVAL);
 698 +        goto fail;
 699 +    }
 700 +
 701 +    ret = v4l2_request_select_capture_format(avctx);
 702 +    if (ret < 0) {
 703 +        av_log(avctx, AV_LOG_WARNING, "%s: select capture format failed\n", __func__);
 704 +        ret = AVERROR(EINVAL);
 705 +        goto fail;
 706 +    }
 707 +
 708 +    return 0;
 709 +
 710 +fail:
 711 +    if (ctx->video_fd >= 0) {
 712 +        close(ctx->video_fd);
 713 +        ctx->video_fd = -1;
 714 +    }
 715 +    return ret;
 716 +}
 717 +
 718 +static int v4l2_request_init_context(AVCodecContext *avctx)
 719 +{
 720 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 721 +    int ret;
 722 +
 723 +    ret = ioctl(ctx->video_fd, VIDIOC_G_FMT, &ctx->format);
 724 +    if (ret < 0) {
 725 +        av_log(avctx, AV_LOG_ERROR, "%s: get capture format failed, %s (%d)\n", __func__, strerror(errno), errno);
 726 +        ret = AVERROR(EINVAL);
 727 +        goto fail;
 728 +    }
 729 +
 730 +    if (V4L2_TYPE_IS_MULTIPLANAR(ctx->format.type)) {
 731 +        av_log(avctx, AV_LOG_DEBUG, "%s: pixelformat=%d width=%u height=%u bytesperline=%u sizeimage=%u num_planes=%u\n", __func__, ctx->format.fmt.pix_mp.pixelformat, ctx->format.fmt.pix_mp.width, ctx->format.fmt.pix_mp.height, ctx->format.fmt.pix_mp.plane_fmt[0].bytesperline, ctx->format.fmt.pix_mp.plane_fmt[0].sizeimage, ctx->format.fmt.pix_mp.num_planes);
 732 +    } else {
 733 +        av_log(avctx, AV_LOG_DEBUG, "%s: pixelformat=%d width=%u height=%u bytesperline=%u sizeimage=%u\n", __func__, ctx->format.fmt.pix.pixelformat, ctx->format.fmt.pix.width, ctx->format.fmt.pix.height, ctx->format.fmt.pix.bytesperline, ctx->format.fmt.pix.sizeimage);
 734 +    }
 735 +
 736 +    ret = ff_decode_get_hw_frames_ctx(avctx, AV_HWDEVICE_TYPE_DRM);
 737 +    if (ret < 0)
 738 +        goto fail;
 739 +
 740 +    ret = ioctl(ctx->video_fd, VIDIOC_STREAMON, &ctx->output_type);
 741 +    if (ret < 0) {
 742 +        av_log(avctx, AV_LOG_ERROR, "%s: output stream on failed, %s (%d)\n", __func__, strerror(errno), errno);
 743 +        ret = AVERROR(EINVAL);
 744 +        goto fail;
 745 +    }
 746 +
 747 +    ret = ioctl(ctx->video_fd, VIDIOC_STREAMON, &ctx->format.type);
 748 +    if (ret < 0) {
 749 +        av_log(avctx, AV_LOG_ERROR, "%s: capture stream on failed, %s (%d)\n", __func__, strerror(errno), errno);
 750 +        ret = AVERROR(EINVAL);
 751 +        goto fail;
 752 +    }
 753 +
 754 +    return 0;
 755 +
 756 +fail:
 757 +    ff_v4l2_request_uninit(avctx);
 758 +    return ret;
 759 +}
 760 +
 761 +static int v4l2_request_probe_media_device(struct udev_device *device, AVCodecContext *avctx, uint32_t pixelformat, uint32_t buffersize, struct v4l2_ext_control *control, int count)
 762 +{
 763 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 764 +    int ret;
 765 +    struct media_device_info device_info = {0};
 766 +    struct media_v2_topology topology = {0};
 767 +    struct media_v2_interface *interfaces = NULL;
 768 +    struct udev *udev = udev_device_get_udev(device);
 769 +    struct udev_device *video_device;
 770 +    dev_t devnum;
 771 +
 772 +    const char *path = udev_device_get_devnode(device);
 773 +    if (!path) {
 774 +        av_log(avctx, AV_LOG_ERROR, "%s: get media device devnode failed\n", __func__);
 775 +        ret = AVERROR(EINVAL);
 776 +        goto fail;
 777 +    }
 778 +
 779 +    ctx->media_fd = open(path, O_RDWR, 0);
 780 +    if (ctx->media_fd < 0) {
 781 +        av_log(avctx, AV_LOG_ERROR, "%s: opening %s failed, %s (%d)\n", __func__, path, strerror(errno), errno);
 782 +        ret = AVERROR(EINVAL);
 783 +        goto fail;
 784 +    }
 785 +
 786 +    ret = ioctl(ctx->media_fd, MEDIA_IOC_DEVICE_INFO, &device_info);
 787 +    if (ret < 0) {
 788 +        av_log(avctx, AV_LOG_ERROR, "%s: get media device info failed, %s (%d)\n", __func__, strerror(errno), errno);
 789 +        ret = AVERROR(EINVAL);
 790 +        goto fail;
 791 +    }
 792 +
 793 +    av_log(avctx, AV_LOG_DEBUG, "%s: avctx=%p ctx=%p path=%s driver=%s\n", __func__, avctx, ctx, path, device_info.driver);
 794 +
 795 +    ret = ioctl(ctx->media_fd, MEDIA_IOC_G_TOPOLOGY, &topology);
 796 +    if (ret < 0) {
 797 +        av_log(avctx, AV_LOG_ERROR, "%s: get media topology failed, %s (%d)\n", __func__, strerror(errno), errno);
 798 +        ret = AVERROR(EINVAL);
 799 +        goto fail;
 800 +    }
 801 +
 802 +    if (topology.num_interfaces <= 0) {
 803 +        av_log(avctx, AV_LOG_ERROR, "%s: media device has no interfaces\n", __func__);
 804 +        ret = AVERROR(EINVAL);
 805 +        goto fail;
 806 +    }
 807 +
 808 +    interfaces = av_mallocz(topology.num_interfaces * sizeof(struct media_v2_interface));
 809 +    if (!interfaces) {
 810 +        av_log(avctx, AV_LOG_ERROR, "%s: allocating media interface struct failed\n", __func__);
 811 +        ret = AVERROR(ENOMEM);
 812 +        goto fail;
 813 +    }
 814 +
 815 +    topology.ptr_interfaces = (__u64)(uintptr_t)interfaces;
 816 +    ret = ioctl(ctx->media_fd, MEDIA_IOC_G_TOPOLOGY, &topology);
 817 +    if (ret < 0) {
 818 +        av_log(avctx, AV_LOG_ERROR, "%s: get media topology failed, %s (%d)\n", __func__, strerror(errno), errno);
 819 +        ret = AVERROR(EINVAL);
 820 +        goto fail;
 821 +    }
 822 +
 823 +    ret = AVERROR(EINVAL);
 824 +    for (int i = 0; i < topology.num_interfaces; i++) {
 825 +        if (interfaces[i].intf_type != MEDIA_INTF_T_V4L_VIDEO)
 826 +            continue;
 827 +
 828 +        devnum = makedev(interfaces[i].devnode.major, interfaces[i].devnode.minor);
 829 +        video_device = udev_device_new_from_devnum(udev, 'c', devnum);
 830 +        if (!video_device) {
 831 +            av_log(avctx, AV_LOG_ERROR, "%s: video_device=%p\n", __func__, video_device);
 832 +            continue;
 833 +        }
 834 +
 835 +        ret = v4l2_request_probe_video_device(video_device, avctx, pixelformat, buffersize, control, count);
 836 +        udev_device_unref(video_device);
 837 +
 838 +        if (!ret)
 839 +            break;
 840 +    }
 841 +
 842 +    av_freep(&interfaces);
 843 +    return ret;
 844 +
 845 +fail:
 846 +    av_freep(&interfaces);
 847 +    if (ctx->media_fd >= 0) {
 848 +        close(ctx->media_fd);
 849 +        ctx->media_fd = -1;
 850 +    }
 851 +    return ret;
 852 +}
 853 +
 854 +int ff_v4l2_request_init(AVCodecContext *avctx, uint32_t pixelformat, uint32_t buffersize, struct v4l2_ext_control *control, int count)
 855 +{
 856 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 857 +    int ret = AVERROR(EINVAL);
 858 +    struct udev *udev;
 859 +    struct udev_enumerate *enumerate;
 860 +    struct udev_list_entry *devices;
 861 +    struct udev_list_entry *entry;
 862 +    struct udev_device *device;
 863 +
 864 +    av_log(avctx, AV_LOG_DEBUG, "%s: avctx=%p hw_device_ctx=%p hw_frames_ctx=%p\n", __func__, avctx, avctx->hw_device_ctx, avctx->hw_frames_ctx);
 865 +
 866 +    ctx->media_fd = -1;
 867 +    ctx->video_fd = -1;
 868 +    ctx->timestamp = 0;
 869 +
 870 +    udev = udev_new();
 871 +    if (!udev) {
 872 +        av_log(avctx, AV_LOG_ERROR, "%s: allocating udev context failed\n", __func__);
 873 +        ret = AVERROR(ENOMEM);
 874 +        goto fail;
 875 +    }
 876 +
 877 +    enumerate = udev_enumerate_new(udev);
 878 +    if (!enumerate) {
 879 +        av_log(avctx, AV_LOG_ERROR, "%s: allocating udev enumerator failed\n", __func__);
 880 +        ret = AVERROR(ENOMEM);
 881 +        goto fail;
 882 +    }
 883 +
 884 +    udev_enumerate_add_match_subsystem(enumerate, "media");
 885 +    udev_enumerate_scan_devices(enumerate);
 886 +
 887 +    devices = udev_enumerate_get_list_entry(enumerate);
 888 +    udev_list_entry_foreach(entry, devices) {
 889 +        const char *path = udev_list_entry_get_name(entry);
 890 +        if (!path)
 891 +            continue;
 892 +
 893 +        device = udev_device_new_from_syspath(udev, path);
 894 +        if (!device)
 895 +            continue;
 896 +
 897 +        ret = v4l2_request_probe_media_device(device, avctx, pixelformat, buffersize, control, count);
 898 +        udev_device_unref(device);
 899 +
 900 +        if (!ret)
 901 +            break;
 902 +    }
 903 +
 904 +    udev_enumerate_unref(enumerate);
 905 +
 906 +    if (!ret)
 907 +        ret = v4l2_request_init_context(avctx);
 908 +
 909 +fail:
 910 +    udev_unref(udev);
 911 +    return ret;
 912 +}
 913 +
 914 +int ff_v4l2_request_uninit(AVCodecContext *avctx)
 915 +{
 916 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 917 +    int ret;
 918 +
 919 +    av_log(avctx, AV_LOG_DEBUG, "%s: avctx=%p ctx=%p\n", __func__, avctx, ctx);
 920 +
 921 +    if (ctx->video_fd >= 0) {
 922 +        ret = ioctl(ctx->video_fd, VIDIOC_STREAMOFF, &ctx->output_type);
 923 +        if (ret < 0)
 924 +            av_log(avctx, AV_LOG_ERROR, "%s: output stream off failed, %s (%d)\n", __func__, strerror(errno), errno);
 925 +
 926 +        ret = ioctl(ctx->video_fd, VIDIOC_STREAMOFF, &ctx->format.type);
 927 +        if (ret < 0)
 928 +            av_log(avctx, AV_LOG_ERROR, "%s: capture stream off failed, %s (%d)\n", __func__, strerror(errno), errno);
 929 +    }
 930 +
 931 +    if (avctx->hw_frames_ctx) {
 932 +        AVHWFramesContext *hwfc = (AVHWFramesContext*)avctx->hw_frames_ctx->data;
 933 +        av_buffer_pool_flush(hwfc->pool);
 934 +    }
 935 +
 936 +    if (ctx->video_fd >= 0)
 937 +        close(ctx->video_fd);
 938 +
 939 +    if (ctx->media_fd >= 0)
 940 +        close(ctx->media_fd);
 941 +
 942 +    return 0;
 943 +}
 944 +
 945 +static int v4l2_request_buffer_alloc(AVCodecContext *avctx, V4L2RequestBuffer *buf, enum v4l2_buf_type type)
 946 +{
 947 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
 948 +    int ret;
 949 +    struct v4l2_plane planes[1] = {};
 950 +    struct v4l2_create_buffers buffers = {
 951 +        .count = 1,
 952 +        .memory = V4L2_MEMORY_MMAP,
 953 +        .format.type = type,
 954 +    };
 955 +
 956 +    av_log(avctx, AV_LOG_DEBUG, "%s: avctx=%p buf=%p type=%u\n", __func__, avctx, buf, type);
 957 +
 958 +    ret = ioctl(ctx->video_fd, VIDIOC_G_FMT, &buffers.format);
 959 +    if (ret < 0) {
 960 +        av_log(avctx, AV_LOG_ERROR, "%s: get format failed for type %u, %s (%d)\n", __func__, type, strerror(errno), errno);
 961 +        return ret;
 962 +    }
 963 +
 964 +    if (V4L2_TYPE_IS_MULTIPLANAR(buffers.format.type)) {
 965 +        av_log(avctx, AV_LOG_DEBUG, "%s: pixelformat=%d width=%u height=%u bytesperline=%u sizeimage=%u num_planes=%u\n", __func__, buffers.format.fmt.pix_mp.pixelformat, buffers.format.fmt.pix_mp.width, buffers.format.fmt.pix_mp.height, buffers.format.fmt.pix_mp.plane_fmt[0].bytesperline, buffers.format.fmt.pix_mp.plane_fmt[0].sizeimage, buffers.format.fmt.pix_mp.num_planes);
 966 +    } else {
 967 +        av_log(avctx, AV_LOG_DEBUG, "%s: pixelformat=%d width=%u height=%u bytesperline=%u sizeimage=%u\n", __func__, buffers.format.fmt.pix.pixelformat, buffers.format.fmt.pix.width, buffers.format.fmt.pix.height, buffers.format.fmt.pix.bytesperline, buffers.format.fmt.pix.sizeimage);
 968 +    }
 969 +
 970 +    ret = ioctl(ctx->video_fd, VIDIOC_CREATE_BUFS, &buffers);
 971 +    if (ret < 0) {
 972 +        av_log(avctx, AV_LOG_ERROR, "%s: create buffers failed for type %u, %s (%d)\n", __func__, type, strerror(errno), errno);
 973 +        return ret;
 974 +    }
 975 +
 976 +    if (V4L2_TYPE_IS_MULTIPLANAR(type)) {
 977 +        buf->width = buffers.format.fmt.pix_mp.width;
 978 +        buf->height = buffers.format.fmt.pix_mp.height;
 979 +        buf->size = buffers.format.fmt.pix_mp.plane_fmt[0].sizeimage;
 980 +        buf->buffer.length = 1;
 981 +        buf->buffer.m.planes = planes;
 982 +    } else {
 983 +        buf->width = buffers.format.fmt.pix.width;
 984 +        buf->height = buffers.format.fmt.pix.height;
 985 +        buf->size = buffers.format.fmt.pix.sizeimage;
 986 +    }
 987 +
 988 +    buf->index = buffers.index;
 989 +    buf->capabilities = buffers.capabilities;
 990 +    buf->used = 0;
 991 +
 992 +    buf->buffer.type = type;
 993 +    buf->buffer.memory = V4L2_MEMORY_MMAP;
 994 +    buf->buffer.index = buf->index;
 995 +
 996 +    ret = ioctl(ctx->video_fd, VIDIOC_QUERYBUF, &buf->buffer);
 997 +    if (ret < 0) {
 998 +        av_log(avctx, AV_LOG_ERROR, "%s: query buffer %d failed, %s (%d)\n", __func__, buf->index, strerror(errno), errno);
 999 +        return ret;
1000 +    }
1001 +
1002 +    if (V4L2_TYPE_IS_OUTPUT(type)) {
1003 +        void *addr = mmap(NULL, buf->size, PROT_READ | PROT_WRITE, MAP_SHARED, ctx->video_fd, V4L2_TYPE_IS_MULTIPLANAR(type) ? buf->buffer.m.planes[0].m.mem_offset : buf->buffer.m.offset);
1004 +        if (addr == MAP_FAILED) {
1005 +            av_log(avctx, AV_LOG_ERROR, "%s: mmap failed, %s (%d)\n", __func__, strerror(errno), errno);
1006 +            return -1;
1007 +        }
1008 +
1009 +        buf->addr = (uint8_t*)addr;
1010 +    } else {
1011 +        struct v4l2_exportbuffer exportbuffer = {
1012 +            .type = type,
1013 +            .index = buf->index,
1014 +            .flags = O_RDONLY,
1015 +        };
1016 +
1017 +        ret = ioctl(ctx->video_fd, VIDIOC_EXPBUF, &exportbuffer);
1018 +        if (ret < 0) {
1019 +            av_log(avctx, AV_LOG_ERROR, "%s: export buffer %d failed, %s (%d)\n", __func__, buf->index, strerror(errno), errno);
1020 +            return ret;
1021 +        }
1022 +
1023 +        buf->fd = exportbuffer.fd;
1024 +    }
1025 +
1026 +    av_log(avctx, AV_LOG_DEBUG, "%s: buf=%p index=%d fd=%d addr=%p width=%u height=%u size=%u\n", __func__, buf, buf->index, buf->fd, buf->addr, buf->width, buf->height, buf->size);
1027 +    return 0;
1028 +}
1029 +
1030 +static void v4l2_request_buffer_free(V4L2RequestBuffer *buf)
1031 +{
1032 +    av_log(NULL, AV_LOG_DEBUG, "%s: buf=%p index=%d fd=%d addr=%p width=%u height=%u size=%u\n", __func__, buf, buf->index, buf->fd, buf->addr, buf->width, buf->height, buf->size);
1033 +
1034 +    if (buf->addr)
1035 +        munmap(buf->addr, buf->size);
1036 +
1037 +    if (buf->fd >= 0)
1038 +        close(buf->fd);
1039 +}
1040 +
1041 +static void v4l2_request_frame_free(void *opaque, uint8_t *data)
1042 +{
1043 +    AVCodecContext *avctx = opaque;
1044 +    V4L2RequestDescriptor *req = (V4L2RequestDescriptor*)data;
1045 +
1046 +    av_log(NULL, AV_LOG_DEBUG, "%s: avctx=%p data=%p request_fd=%d\n", __func__, avctx, data, req->request_fd);
1047 +
1048 +    if (req->request_fd >= 0)
1049 +        close(req->request_fd);
1050 +
1051 +    v4l2_request_buffer_free(&req->capture);
1052 +    v4l2_request_buffer_free(&req->output);
1053 +
1054 +    av_free(data);
1055 +}
1056 +
1057 +static AVBufferRef *v4l2_request_frame_alloc(void *opaque, int size)
1058 +{
1059 +    AVCodecContext *avctx = opaque;
1060 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
1061 +    V4L2RequestDescriptor *req;
1062 +    AVBufferRef *ref;
1063 +    uint8_t *data;
1064 +    int ret;
1065 +
1066 +    data = av_mallocz(size);
1067 +    if (!data)
1068 +        return NULL;
1069 +
1070 +    av_log(avctx, AV_LOG_DEBUG, "%s: avctx=%p size=%d data=%p\n", __func__, avctx, size, data);
1071 +
1072 +    ref = av_buffer_create(data, size, v4l2_request_frame_free, avctx, 0);
1073 +    if (!ref) {
1074 +        av_freep(&data);
1075 +        return NULL;
1076 +    }
1077 +
1078 +    req = (V4L2RequestDescriptor*)data;
1079 +    req->request_fd = -1;
1080 +    req->output.fd = -1;
1081 +    req->capture.fd = -1;
1082 +
1083 +    ret = v4l2_request_buffer_alloc(avctx, &req->output, ctx->output_type);
1084 +    if (ret < 0) {
1085 +        av_buffer_unref(&ref);
1086 +        return NULL;
1087 +    }
1088 +
1089 +    ret = v4l2_request_buffer_alloc(avctx, &req->capture, ctx->format.type);
1090 +    if (ret < 0) {
1091 +        av_buffer_unref(&ref);
1092 +        return NULL;
1093 +    }
1094 +
1095 +    ret = ioctl(ctx->media_fd, MEDIA_IOC_REQUEST_ALLOC, &req->request_fd);
1096 +    if (ret < 0) {
1097 +        av_log(avctx, AV_LOG_ERROR, "%s: request alloc failed, %s (%d)\n", __func__, strerror(errno), errno);
1098 +        av_buffer_unref(&ref);
1099 +        return NULL;
1100 +    }
1101 +
1102 +    av_log(avctx, AV_LOG_DEBUG, "%s: avctx=%p size=%d data=%p request_fd=%d\n", __func__, avctx, size, data, req->request_fd);
1103 +    return ref;
1104 +}
1105 +
1106 +static void v4l2_request_pool_free(void *opaque)
1107 +{
1108 +    av_log(NULL, AV_LOG_DEBUG, "%s: opaque=%p\n", __func__, opaque);
1109 +}
1110 +
1111 +static void v4l2_request_hwframe_ctx_free(AVHWFramesContext *hwfc)
1112 +{
1113 +    av_log(NULL, AV_LOG_DEBUG, "%s: hwfc=%p pool=%p\n", __func__, hwfc, hwfc->pool);
1114 +
1115 +    av_buffer_pool_flush(hwfc->pool);
1116 +    av_buffer_pool_uninit(&hwfc->pool);
1117 +}
1118 +
1119 +int ff_v4l2_request_frame_params(AVCodecContext *avctx, AVBufferRef *hw_frames_ctx)
1120 +{
1121 +    V4L2RequestContext *ctx = avctx->internal->hwaccel_priv_data;
1122 +    AVHWFramesContext *hwfc = (AVHWFramesContext*)hw_frames_ctx->data;
1123 +
1124 +    hwfc->format = AV_PIX_FMT_DRM_PRIME;
1125 +    hwfc->sw_format = AV_PIX_FMT_NV12;
1126 +    if (V4L2_TYPE_IS_MULTIPLANAR(ctx->format.type)) {
1127 +        hwfc->width = ctx->format.fmt.pix_mp.width;
1128 +        hwfc->height = ctx->format.fmt.pix_mp.height;
1129 +    } else {
1130 +        hwfc->width = ctx->format.fmt.pix.width;
1131 +        hwfc->height = ctx->format.fmt.pix.height;
1132 +    }
1133 +
1134 +    hwfc->pool = av_buffer_pool_init2(sizeof(V4L2RequestDescriptor), avctx, v4l2_request_frame_alloc, v4l2_request_pool_free);
1135 +    if (!hwfc->pool)
1136 +        return AVERROR(ENOMEM);
1137 +
1138 +    hwfc->free = v4l2_request_hwframe_ctx_free;
1139 +
1140 +    hwfc->initial_pool_size = 1;
1141 +
1142 +    switch (avctx->codec_id) {
1143 +    case AV_CODEC_ID_VP9:
1144 +        hwfc->initial_pool_size += 8;
1145 +        break;
1146 +    case AV_CODEC_ID_VP8:
1147 +        hwfc->initial_pool_size += 3;
1148 +        break;
1149 +    default:
1150 +        hwfc->initial_pool_size += 2;
1151 +    }
1152 +
1153 +    av_log(avctx, AV_LOG_DEBUG, "%s: avctx=%p ctx=%p hw_frames_ctx=%p hwfc=%p pool=%p width=%d height=%d initial_pool_size=%d\n", __func__, avctx, ctx, hw_frames_ctx, hwfc, hwfc->pool, hwfc->width, hwfc->height, hwfc->initial_pool_size);
1154 +
1155 +    return 0;
1156 +}
1157 diff --git a/libavcodec/v4l2_request.h b/libavcodec/v4l2_request.h
1158 new file mode 100644
1159 index 000000000000..58d2aa70af80
1160 --- /dev/null
1161 +++ b/libavcodec/v4l2_request.h
1162 @@ -0,0 +1,77 @@
1163 +/*
1164 + * This file is part of FFmpeg.
1165 + *
1166 + * FFmpeg is free software; you can redistribute it and/or
1167 + * modify it under the terms of the GNU Lesser General Public
1168 + * License as published by the Free Software Foundation; either
1169 + * version 2.1 of the License, or (at your option) any later version.
1170 + *
1171 + * FFmpeg is distributed in the hope that it will be useful,
1172 + * but WITHOUT ANY WARRANTY; without even the implied warranty of
1173 + * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
1174 + * Lesser General Public License for more details.
1175 + *
1176 + * You should have received a copy of the GNU Lesser General Public
1177 + * License along with FFmpeg; if not, write to the Free Software
1178 + * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
1179 + */
1180 +
1181 +#ifndef AVCODEC_V4L2_REQUEST_H
1182 +#define AVCODEC_V4L2_REQUEST_H
1183 +
1184 +#include <linux/videodev2.h>
1185 +
1186 +#include "libavutil/hwcontext_drm.h"
1187 +
1188 +typedef struct V4L2RequestContext {
1189 +    int video_fd;
1190 +    int media_fd;
1191 +    enum v4l2_buf_type output_type;
1192 +    struct v4l2_format format;
1193 +    int timestamp;
1194 +} V4L2RequestContext;
1195 +
1196 +typedef struct V4L2RequestBuffer {
1197 +    int index;
1198 +    int fd;
1199 +    uint8_t *addr;
1200 +    uint32_t width;
1201 +    uint32_t height;
1202 +    uint32_t size;
1203 +    uint32_t used;
1204 +    uint32_t capabilities;
1205 +    struct v4l2_buffer buffer;
1206 +} V4L2RequestBuffer;
1207 +
1208 +typedef struct V4L2RequestDescriptor {
1209 +    AVDRMFrameDescriptor drm;
1210 +    int request_fd;
1211 +    V4L2RequestBuffer output;
1212 +    V4L2RequestBuffer capture;
1213 +} V4L2RequestDescriptor;
1214 +
1215 +uint64_t ff_v4l2_request_get_capture_timestamp(AVFrame *frame);
1216 +
1217 +int ff_v4l2_request_reset_frame(AVCodecContext *avctx, AVFrame *frame);
1218 +
1219 +int ff_v4l2_request_append_output_buffer(AVCodecContext *avctx, AVFrame *frame, const uint8_t *data, uint32_t size);
1220 +
1221 +int ff_v4l2_request_set_controls(AVCodecContext *avctx, struct v4l2_ext_control *control, int count);
1222 +
1223 +int ff_v4l2_request_get_controls(AVCodecContext *avctx, struct v4l2_ext_control *control, int count);
1224 +
1225 +int ff_v4l2_request_query_control(AVCodecContext *avctx, struct v4l2_query_ext_ctrl *control);
1226 +
1227 +int ff_v4l2_request_query_control_default_value(AVCodecContext *avctx, uint32_t id);
1228 +
1229 +int ff_v4l2_request_decode_slice(AVCodecContext *avctx, AVFrame *frame, struct v4l2_ext_control *control, int count, int first_slice, int last_slice);
1230 +
1231 +int ff_v4l2_request_decode_frame(AVCodecContext *avctx, AVFrame *frame, struct v4l2_ext_control *control, int count);
1232 +
1233 +int ff_v4l2_request_init(AVCodecContext *avctx, uint32_t pixelformat, uint32_t buffersize, struct v4l2_ext_control *control, int count);
1234 +
1235 +int ff_v4l2_request_uninit(AVCodecContext *avctx);
1236 +
1237 +int ff_v4l2_request_frame_params(AVCodecContext *avctx, AVBufferRef *hw_frames_ctx);
1238 +
1239 +#endif /* AVCODEC_V4L2_REQUEST_H */
1240 From 6349ae1e10d1b68c47c3b883b27567f9678c6e0c Mon Sep 17 00:00:00 2001
1241 From: Boris Brezillon <boris.brezillon@collabora.com>
1242 Date: Wed, 22 May 2019 14:44:22 +0200
1243 Subject: [PATCH] h264dec: add ref_pic_marking and pic_order_cnt bit_size to
1244  slice context
1245
1246 Used by V4L2 request API h264 hwaccel
1247
1248 Signed-off-by: Boris Brezillon <boris.brezillon@collabora.com>
1249 Signed-off-by: Jonas Karlman <jonas@kwiboo.se>
1250 ---
1251  libavcodec/h264_slice.c | 6 +++++-
1252  libavcodec/h264dec.h    | 2 ++
1253  2 files changed, 7 insertions(+), 1 deletion(-)
1254
1255 diff --git a/libavcodec/h264_slice.c b/libavcodec/h264_slice.c
1256 index a19635a23d44..5a5ceb09352c 100644
1257 --- a/libavcodec/h264_slice.c
1258 +++ b/libavcodec/h264_slice.c
1259 @@ -1736,7 +1736,7 @@ static int h264_slice_header_parse(const H264Context *h, H264SliceContext *sl,
1260      unsigned int slice_type, tmp, i;
1261      int field_pic_flag, bottom_field_flag;
1262      int first_slice = sl == h->slice_ctx && !h->current_slice;
1263 -    int picture_structure;
1264 +    int picture_structure, pos;
1265
1266      if (first_slice)
1267          av_assert0(!h->setup_finished);
1268 @@ -1820,6 +1820,7 @@ static int h264_slice_header_parse(const H264Context *h, H264SliceContext *sl,
1269              av_log(h->avctx, AV_LOG_WARNING, "idr_pic_id is invalid\n");
1270      }
1271
1272 +    pos = sl->gb.index;
1273      sl->poc_lsb = 0;
1274      sl->delta_poc_bottom = 0;
1275      if (sps->poc_type == 0) {
1276 @@ -1833,6 +1834,7 @@ static int h264_slice_header_parse(const H264Context *h, H264SliceContext *sl,
1277          if (pps->pic_order_present == 1 && picture_structure == PICT_FRAME)
1278              sl->delta_poc[1] = get_se_golomb(&sl->gb);
1279      }
1280 +    sl->pic_order_cnt_bit_size = sl->gb.index - pos;
1281
1282      sl->redundant_pic_count = 0;
1283      if (pps->redundant_pic_cnt_present)
1284 @@ -1872,9 +1874,11 @@ static int h264_slice_header_parse(const H264Context *h, H264SliceContext *sl,
1285
1286      sl->explicit_ref_marking = 0;
1287      if (nal->ref_idc) {
1288 +        pos = sl->gb.index;
1289          ret = ff_h264_decode_ref_pic_marking(sl, &sl->gb, nal, h->avctx);
1290          if (ret < 0 && (h->avctx->err_recognition & AV_EF_EXPLODE))
1291              return AVERROR_INVALIDDATA;
1292 +        sl->ref_pic_marking_bit_size = sl->gb.index - pos;
1293      }
1294
1295      if (sl->slice_type_nos != AV_PICTURE_TYPE_I && pps->cabac) {
1296 diff --git a/libavcodec/h264dec.h b/libavcodec/h264dec.h
1297 index 316dc6a2c890..f2cabac468d0 100644
1298 --- a/libavcodec/h264dec.h
1299 +++ b/libavcodec/h264dec.h
1300 @@ -328,6 +328,7 @@ typedef struct H264SliceContext {
1301      MMCO mmco[MAX_MMCO_COUNT];
1302      int  nb_mmco;
1303      int explicit_ref_marking;
1304 +    int ref_pic_marking_bit_size;
1305
1306      int frame_num;
1307      int idr_pic_id;
1308 @@ -336,6 +337,7 @@ typedef struct H264SliceContext {
1309      int delta_poc[2];
1310      int curr_pic_num;
1311      int max_pic_num;
1312 +    int pic_order_cnt_bit_size;
1313  } H264SliceContext;
1314
1315  /**
1316 From 650875c24687c35290b2393ef39f77074ca49813 Mon Sep 17 00:00:00 2001
1317 From: Jernej Skrabec <jernej.skrabec@siol.net>
1318 Date: Sat, 15 Dec 2018 22:32:16 +0100
1319 Subject: [PATCH] Add V4L2 request API h264 hwaccel
1320
1321 Signed-off-by: Jernej Skrabec <jernej.skrabec@siol.net>
1322 Signed-off-by: Jonas Karlman <jonas@kwiboo.se>
1323 ---
1324  configure                      |   3 +
1325  libavcodec/Makefile            |   1 +
1326  libavcodec/h264_slice.c        |   4 +
1327  libavcodec/h264dec.c           |   3 +
1328  libavcodec/hwaccels.h          |   1 +
1329  libavcodec/v4l2_request_h264.c | 456 +++++++++++++++++++++++++++++++++
1330  6 files changed, 468 insertions(+)
1331  create mode 100644 libavcodec/v4l2_request_h264.c
1332
1333 diff --git a/configure b/configure
1334 index 9f9909a23696..293d0447f683 100755
1335 --- a/configure
1336 +++ b/configure
1337 @@ -2925,6 +2925,8 @@ h264_dxva2_hwaccel_deps="dxva2"
1338  h264_dxva2_hwaccel_select="h264_decoder"
1339  h264_nvdec_hwaccel_deps="nvdec"
1340  h264_nvdec_hwaccel_select="h264_decoder"
1341 +h264_v4l2request_hwaccel_deps="v4l2_request"
1342 +h264_v4l2request_hwaccel_select="h264_decoder"
1343  h264_vaapi_hwaccel_deps="vaapi"
1344  h264_vaapi_hwaccel_select="h264_decoder"
1345  h264_vdpau_hwaccel_deps="vdpau"
1346 @@ -6567,6 +6569,7 @@ if enabled v4l2_m2m; then
1347  fi
1348
1349  check_func_headers "linux/media.h linux/videodev2.h" v4l2_timeval_to_ns
1350 +check_cc h264_v4l2_request linux/videodev2.h "int i = V4L2_PIX_FMT_H264_SLICE;"
1351
1352  check_headers sys/videoio.h
1353  test_code cc sys/videoio.h "struct v4l2_frmsizeenum vfse; vfse.discrete.width = 0;" && enable_sanitized struct_v4l2_frmivalenum_discrete
1354 diff --git a/libavcodec/Makefile b/libavcodec/Makefile
1355 index d74220516826..4f6e7fc2515c 100644
1356 --- a/libavcodec/Makefile
1357 +++ b/libavcodec/Makefile
1358 @@ -903,6 +903,7 @@ OBJS-$(CONFIG_H264_D3D11VA_HWACCEL)       += dxva2_h264.o
1359  OBJS-$(CONFIG_H264_DXVA2_HWACCEL)         += dxva2_h264.o
1360  OBJS-$(CONFIG_H264_NVDEC_HWACCEL)         += nvdec_h264.o
1361  OBJS-$(CONFIG_H264_QSV_HWACCEL)           += qsvdec.o
1362 +OBJS-$(CONFIG_H264_V4L2REQUEST_HWACCEL)   += v4l2_request_h264.o
1363  OBJS-$(CONFIG_H264_VAAPI_HWACCEL)         += vaapi_h264.o
1364  OBJS-$(CONFIG_H264_VDPAU_HWACCEL)         += vdpau_h264.o
1365  OBJS-$(CONFIG_H264_VIDEOTOOLBOX_HWACCEL)  += videotoolbox.o
1366 diff --git a/libavcodec/h264_slice.c b/libavcodec/h264_slice.c
1367 index 5a5ceb09352c..4ed267317184 100644
1368 --- a/libavcodec/h264_slice.c
1369 +++ b/libavcodec/h264_slice.c
1370 @@ -759,6 +759,7 @@ static enum AVPixelFormat get_pixel_format(H264Context *h, int force_callback)
1371  #define HWACCEL_MAX (CONFIG_H264_DXVA2_HWACCEL + \
1372                       (CONFIG_H264_D3D11VA_HWACCEL * 2) + \
1373                       CONFIG_H264_NVDEC_HWACCEL + \
1374 +                     CONFIG_H264_V4L2REQUEST_HWACCEL + \
1375                       CONFIG_H264_VAAPI_HWACCEL + \
1376                       CONFIG_H264_VIDEOTOOLBOX_HWACCEL + \
1377                       CONFIG_H264_VDPAU_HWACCEL)
1378 @@ -843,6 +844,9 @@ static enum AVPixelFormat get_pixel_format(H264Context *h, int force_callback)
1379  #if CONFIG_H264_VIDEOTOOLBOX_HWACCEL
1380          if (h->avctx->colorspace != AVCOL_SPC_RGB)
1381              *fmt++ = AV_PIX_FMT_VIDEOTOOLBOX;
1382 +#endif
1383 +#if CONFIG_H264_V4L2REQUEST_HWACCEL
1384 +            *fmt++ = AV_PIX_FMT_DRM_PRIME;
1385  #endif
1386          if (CHROMA444(h)) {
1387              if (h->avctx->colorspace == AVCOL_SPC_RGB) {
1388 diff --git a/libavcodec/h264dec.c b/libavcodec/h264dec.c
1389 index 5eedeb3c275d..a504c89565c7 100644
1390 --- a/libavcodec/h264dec.c
1391 +++ b/libavcodec/h264dec.c
1392 @@ -1102,6 +1102,9 @@ AVCodec ff_h264_decoder = {
1393  #endif
1394  #if CONFIG_H264_VIDEOTOOLBOX_HWACCEL
1395                                 HWACCEL_VIDEOTOOLBOX(h264),
1396 +#endif
1397 +#if CONFIG_H264_V4L2REQUEST_HWACCEL
1398 +                               HWACCEL_V4L2REQUEST(h264),
1399  #endif
1400                                 NULL
1401                             },
1402 diff --git a/libavcodec/hwaccels.h b/libavcodec/hwaccels.h
1403 index 6109c89bd63c..f758c34ddcf9 100644
1404 --- a/libavcodec/hwaccels.h
1405 +++ b/libavcodec/hwaccels.h
1406 @@ -27,6 +27,7 @@ extern const AVHWAccel ff_h264_d3d11va_hwaccel;
1407  extern const AVHWAccel ff_h264_d3d11va2_hwaccel;
1408  extern const AVHWAccel ff_h264_dxva2_hwaccel;
1409  extern const AVHWAccel ff_h264_nvdec_hwaccel;
1410 +extern const AVHWAccel ff_h264_v4l2request_hwaccel;
1411  extern const AVHWAccel ff_h264_vaapi_hwaccel;
1412  extern const AVHWAccel ff_h264_vdpau_hwaccel;
1413  extern const AVHWAccel ff_h264_videotoolbox_hwaccel;
1414 diff --git a/libavcodec/v4l2_request_h264.c b/libavcodec/v4l2_request_h264.c
1415 new file mode 100644
1416 index 000000000000..88da8f0a2db0
1417 --- /dev/null
1418 +++ b/libavcodec/v4l2_request_h264.c
1419 @@ -0,0 +1,456 @@
1420 +/*
1421 + * This file is part of FFmpeg.
1422 + *
1423 + * FFmpeg is free software; you can redistribute it and/or
1424 + * modify it under the terms of the GNU Lesser General Public
1425 + * License as published by the Free Software Foundation; either
1426 + * version 2.1 of the License, or (at your option) any later version.
1427 + *
1428 + * FFmpeg is distributed in the hope that it will be useful,
1429 + * but WITHOUT ANY WARRANTY; without even the implied warranty of
1430 + * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
1431 + * Lesser General Public License for more details.
1432 + *
1433 + * You should have received a copy of the GNU Lesser General Public
1434 + * License along with FFmpeg; if not, write to the Free Software
1435 + * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
1436 + */
1437 +
1438 +#include "h264dec.h"
1439 +#include "hwconfig.h"
1440 +#include "v4l2_request.h"
1441 +
1442 +typedef struct V4L2RequestControlsH264 {
1443 +    struct v4l2_ctrl_h264_sps sps;
1444 +    struct v4l2_ctrl_h264_pps pps;
1445 +    struct v4l2_ctrl_h264_scaling_matrix scaling_matrix;
1446 +    struct v4l2_ctrl_h264_decode_params decode_params;
1447 +    struct v4l2_ctrl_h264_slice_params slice_params;
1448 +    struct v4l2_ctrl_h264_pred_weights pred_weights;
1449 +    int pred_weights_required;
1450 +    int first_slice;
1451 +    int num_slices;
1452 +} V4L2RequestControlsH264;
1453 +
1454 +typedef struct V4L2RequestContextH264 {
1455 +    V4L2RequestContext base;
1456 +    int decode_mode;
1457 +    int start_code;
1458 +} V4L2RequestContextH264;
1459 +
1460 +static uint8_t nalu_slice_start_code[] = { 0x00, 0x00, 0x01 };
1461 +
1462 +static void fill_weight_factors(struct v4l2_h264_weight_factors *factors, int list, const H264SliceContext *sl)
1463 +{
1464 +    for (int i = 0; i < sl->ref_count[list]; i++) {
1465 +        if (sl->pwt.luma_weight_flag[list]) {
1466 +            factors->luma_weight[i] = sl->pwt.luma_weight[i][list][0];
1467 +            factors->luma_offset[i] = sl->pwt.luma_weight[i][list][1];
1468 +        } else {
1469 +            factors->luma_weight[i] = 1 << sl->pwt.luma_log2_weight_denom;
1470 +            factors->luma_offset[i] = 0;
1471 +        }
1472 +        for (int j = 0; j < 2; j++) {
1473 +            if (sl->pwt.chroma_weight_flag[list]) {
1474 +                factors->chroma_weight[i][j] = sl->pwt.chroma_weight[i][list][j][0];
1475 +                factors->chroma_offset[i][j] = sl->pwt.chroma_weight[i][list][j][1];
1476 +            } else {
1477 +                factors->chroma_weight[i][j] = 1 << sl->pwt.chroma_log2_weight_denom;
1478 +                factors->chroma_offset[i][j] = 0;
1479 +            }
1480 +        }
1481 +    }
1482 +}
1483 +
1484 +static void fill_dpb_entry(struct v4l2_h264_dpb_entry *entry, const H264Picture *pic)
1485 +{
1486 +    entry->reference_ts = ff_v4l2_request_get_capture_timestamp(pic->f);
1487 +    entry->pic_num = pic->pic_id;
1488 +    entry->frame_num = pic->frame_num;
1489 +    entry->fields = pic->reference & V4L2_H264_FRAME_REF;
1490 +    entry->flags = V4L2_H264_DPB_ENTRY_FLAG_VALID;
1491 +    if (entry->fields)
1492 +        entry->flags |= V4L2_H264_DPB_ENTRY_FLAG_ACTIVE;
1493 +    if (pic->long_ref)
1494 +        entry->flags |= V4L2_H264_DPB_ENTRY_FLAG_LONG_TERM;
1495 +    if (pic->field_picture)
1496 +        entry->flags |= V4L2_H264_DPB_ENTRY_FLAG_FIELD;
1497 +    if (pic->field_poc[0] != INT_MAX)
1498 +        entry->top_field_order_cnt = pic->field_poc[0];
1499 +    if (pic->field_poc[1] != INT_MAX)
1500 +        entry->bottom_field_order_cnt = pic->field_poc[1];
1501 +}
1502 +
1503 +static void fill_dpb(struct v4l2_ctrl_h264_decode_params *decode, const H264Context *h)
1504 +{
1505 +    int entries = 0;
1506 +
1507 +    for (int i = 0; i < h->short_ref_count; i++) {
1508 +        const H264Picture *pic = h->short_ref[i];
1509 +        if (pic && (pic->field_poc[0] != INT_MAX || pic->field_poc[1] != INT_MAX))
1510 +            fill_dpb_entry(&decode->dpb[entries++], pic);
1511 +    }
1512 +
1513 +    if (!h->long_ref_count)
1514 +        return;
1515 +
1516 +    for (int i = 0; i < FF_ARRAY_ELEMS(h->long_ref); i++) {
1517 +        const H264Picture *pic = h->long_ref[i];
1518 +        if (pic && (pic->field_poc[0] != INT_MAX || pic->field_poc[1] != INT_MAX))
1519 +            fill_dpb_entry(&decode->dpb[entries++], pic);
1520 +    }
1521 +}
1522 +
1523 +static void fill_ref_list(struct v4l2_h264_reference *reference, struct v4l2_ctrl_h264_decode_params *decode, const H264Ref *ref)
1524 +{
1525 +    uint64_t timestamp;
1526 +
1527 +    if (!ref->parent)
1528 +        return;
1529 +
1530 +    timestamp = ff_v4l2_request_get_capture_timestamp(ref->parent->f);
1531 +
1532 +    for (uint8_t i = 0; i < FF_ARRAY_ELEMS(decode->dpb); i++) {
1533 +        struct v4l2_h264_dpb_entry *entry = &decode->dpb[i];
1534 +        if ((entry->flags & V4L2_H264_DPB_ENTRY_FLAG_VALID) &&
1535 +            entry->reference_ts == timestamp) {
1536 +            reference->fields = ref->reference & V4L2_H264_FRAME_REF;
1537 +            reference->index = i;
1538 +            return;
1539 +        }
1540 +    }
1541 +}
1542 +
1543 +static void fill_sps(struct v4l2_ctrl_h264_sps *ctrl, const H264Context *h)
1544 +{
1545 +    const SPS *sps = h->ps.sps;
1546 +
1547 +    *ctrl = (struct v4l2_ctrl_h264_sps) {
1548 +        .profile_idc = sps->profile_idc,
1549 +        .constraint_set_flags = sps->constraint_set_flags,
1550 +        .level_idc = sps->level_idc,
1551 +        .seq_parameter_set_id = sps->sps_id,
1552 +        .chroma_format_idc = sps->chroma_format_idc,
1553 +        .bit_depth_luma_minus8 = sps->bit_depth_luma - 8,
1554 +        .bit_depth_chroma_minus8 = sps->bit_depth_chroma - 8,
1555 +        .log2_max_frame_num_minus4 = sps->log2_max_frame_num - 4,
1556 +        .pic_order_cnt_type = sps->poc_type,
1557 +        .log2_max_pic_order_cnt_lsb_minus4 = sps->log2_max_poc_lsb - 4,
1558 +        .max_num_ref_frames = sps->ref_frame_count,
1559 +        .num_ref_frames_in_pic_order_cnt_cycle = sps->poc_cycle_length,
1560 +        .offset_for_non_ref_pic = sps->offset_for_non_ref_pic,
1561 +        .offset_for_top_to_bottom_field = sps->offset_for_top_to_bottom_field,
1562 +        .pic_width_in_mbs_minus1 = h->mb_width - 1,
1563 +        .pic_height_in_map_units_minus1 = sps->frame_mbs_only_flag ? h->mb_height - 1 : h->mb_height / 2 - 1,
1564 +    };
1565 +
1566 +    if (sps->poc_cycle_length > 0 && sps->poc_cycle_length <= 255)
1567 +        memcpy(ctrl->offset_for_ref_frame, sps->offset_for_ref_frame, sps->poc_cycle_length * sizeof(ctrl->offset_for_ref_frame[0]));
1568 +
1569 +    if (sps->residual_color_transform_flag)
1570 +        ctrl->flags |= V4L2_H264_SPS_FLAG_SEPARATE_COLOUR_PLANE;
1571 +    if (sps->transform_bypass)
1572 +        ctrl->flags |= V4L2_H264_SPS_FLAG_QPPRIME_Y_ZERO_TRANSFORM_BYPASS;
1573 +    if (sps->delta_pic_order_always_zero_flag)
1574 +        ctrl->flags |= V4L2_H264_SPS_FLAG_DELTA_PIC_ORDER_ALWAYS_ZERO;
1575 +    if (sps->gaps_in_frame_num_allowed_flag)
1576 +        ctrl->flags |= V4L2_H264_SPS_FLAG_GAPS_IN_FRAME_NUM_VALUE_ALLOWED;
1577 +    if (sps->frame_mbs_only_flag)
1578 +        ctrl->flags |= V4L2_H264_SPS_FLAG_FRAME_MBS_ONLY;
1579 +    if (sps->mb_aff)
1580 +        ctrl->flags |= V4L2_H264_SPS_FLAG_MB_ADAPTIVE_FRAME_FIELD;
1581 +    if (sps->direct_8x8_inference_flag)
1582 +        ctrl->flags |= V4L2_H264_SPS_FLAG_DIRECT_8X8_INFERENCE;
1583 +}
1584 +
1585 +static void fill_pps(struct v4l2_ctrl_h264_pps *ctrl, const H264Context *h)
1586 +{
1587 +    const SPS *sps = h->ps.sps;
1588 +    const PPS *pps = h->ps.pps;
1589 +    const H264SliceContext *sl = &h->slice_ctx[0];
1590 +    int qp_bd_offset = 6 * (sps->bit_depth_luma - 8);
1591 +
1592 +    *ctrl = (struct v4l2_ctrl_h264_pps) {
1593 +        .pic_parameter_set_id = sl->pps_id,
1594 +        .seq_parameter_set_id = pps->sps_id,
1595 +        .num_slice_groups_minus1 = pps->slice_group_count - 1,
1596 +        .num_ref_idx_l0_default_active_minus1 = pps->ref_count[0] - 1,
1597 +        .num_ref_idx_l1_default_active_minus1 = pps->ref_count[1] - 1,
1598 +        .weighted_bipred_idc = pps->weighted_bipred_idc,
1599 +        .pic_init_qp_minus26 = pps->init_qp - 26 - qp_bd_offset,
1600 +        .pic_init_qs_minus26 = pps->init_qs - 26 - qp_bd_offset,
1601 +        .chroma_qp_index_offset = pps->chroma_qp_index_offset[0],
1602 +        .second_chroma_qp_index_offset = pps->chroma_qp_index_offset[1],
1603 +    };
1604 +
1605 +    if (pps->cabac)
1606 +        ctrl->flags |= V4L2_H264_PPS_FLAG_ENTROPY_CODING_MODE;
1607 +    if (pps->pic_order_present)
1608 +        ctrl->flags |= V4L2_H264_PPS_FLAG_BOTTOM_FIELD_PIC_ORDER_IN_FRAME_PRESENT;
1609 +    if (pps->weighted_pred)
1610 +        ctrl->flags |= V4L2_H264_PPS_FLAG_WEIGHTED_PRED;
1611 +    if (pps->deblocking_filter_parameters_present)
1612 +        ctrl->flags |= V4L2_H264_PPS_FLAG_DEBLOCKING_FILTER_CONTROL_PRESENT;
1613 +    if (pps->constrained_intra_pred)
1614 +        ctrl->flags |= V4L2_H264_PPS_FLAG_CONSTRAINED_INTRA_PRED;
1615 +    if (pps->redundant_pic_cnt_present)
1616 +        ctrl->flags |= V4L2_H264_PPS_FLAG_REDUNDANT_PIC_CNT_PRESENT;
1617 +    if (pps->transform_8x8_mode)
1618 +        ctrl->flags |= V4L2_H264_PPS_FLAG_TRANSFORM_8X8_MODE;
1619 +
1620 +    /* FFmpeg always provide a scaling matrix */
1621 +    ctrl->flags |= V4L2_H264_PPS_FLAG_SCALING_MATRIX_PRESENT;
1622 +}
1623 +
1624 +static int v4l2_request_h264_start_frame(AVCodecContext *avctx,
1625 +                                         av_unused const uint8_t *buffer,
1626 +                                         av_unused uint32_t size)
1627 +{
1628 +    const H264Context *h = avctx->priv_data;
1629 +    const PPS *pps = h->ps.pps;
1630 +    const SPS *sps = h->ps.sps;
1631 +    const H264SliceContext *sl = &h->slice_ctx[0];
1632 +    V4L2RequestControlsH264 *controls = h->cur_pic_ptr->hwaccel_picture_private;
1633 +
1634 +    fill_sps(&controls->sps, h);
1635 +    fill_pps(&controls->pps, h);
1636 +
1637 +    memcpy(controls->scaling_matrix.scaling_list_4x4, pps->scaling_matrix4, sizeof(controls->scaling_matrix.scaling_list_4x4));
1638 +    memcpy(controls->scaling_matrix.scaling_list_8x8[0], pps->scaling_matrix8[0], sizeof(controls->scaling_matrix.scaling_list_8x8[0]));
1639 +    memcpy(controls->scaling_matrix.scaling_list_8x8[1], pps->scaling_matrix8[3], sizeof(controls->scaling_matrix.scaling_list_8x8[1]));
1640 +
1641 +    if (sps->chroma_format_idc == 3) {
1642 +        memcpy(controls->scaling_matrix.scaling_list_8x8[2], pps->scaling_matrix8[1], sizeof(controls->scaling_matrix.scaling_list_8x8[2]));
1643 +        memcpy(controls->scaling_matrix.scaling_list_8x8[3], pps->scaling_matrix8[4], sizeof(controls->scaling_matrix.scaling_list_8x8[3]));
1644 +        memcpy(controls->scaling_matrix.scaling_list_8x8[4], pps->scaling_matrix8[2], sizeof(controls->scaling_matrix.scaling_list_8x8[4]));
1645 +        memcpy(controls->scaling_matrix.scaling_list_8x8[5], pps->scaling_matrix8[5], sizeof(controls->scaling_matrix.scaling_list_8x8[5]));
1646 +    }
1647 +
1648 +    controls->decode_params = (struct v4l2_ctrl_h264_decode_params) {
1649 +        .nal_ref_idc = h->nal_ref_idc,
1650 +        .frame_num = h->poc.frame_num,
1651 +        .top_field_order_cnt = h->cur_pic_ptr->field_poc[0] != INT_MAX ? h->cur_pic_ptr->field_poc[0] : 0,
1652 +        .bottom_field_order_cnt = h->cur_pic_ptr->field_poc[1] != INT_MAX ? h->cur_pic_ptr->field_poc[1] : 0,
1653 +        .idr_pic_id = sl->idr_pic_id,
1654 +        .pic_order_cnt_lsb = sl->poc_lsb,
1655 +        .delta_pic_order_cnt_bottom = sl->delta_poc_bottom,
1656 +        .delta_pic_order_cnt0 = sl->delta_poc[0],
1657 +        .delta_pic_order_cnt1 = sl->delta_poc[1],
1658 +        /* Size in bits of dec_ref_pic_marking() syntax element. */
1659 +        .dec_ref_pic_marking_bit_size = sl->ref_pic_marking_bit_size,
1660 +        /* Size in bits of pic order count syntax. */
1661 +        .pic_order_cnt_bit_size = sl->pic_order_cnt_bit_size,
1662 +        .slice_group_change_cycle = 0, /* slice group not supported by FFmpeg */
1663 +    };
1664 +
1665 +    if (h->picture_idr)
1666 +        controls->decode_params.flags |= V4L2_H264_DECODE_PARAM_FLAG_IDR_PIC;
1667 +    if (FIELD_PICTURE(h))
1668 +        controls->decode_params.flags |= V4L2_H264_DECODE_PARAM_FLAG_FIELD_PIC;
1669 +    if (h->picture_structure == PICT_BOTTOM_FIELD)
1670 +        controls->decode_params.flags |= V4L2_H264_DECODE_PARAM_FLAG_BOTTOM_FIELD;
1671 +
1672 +    fill_dpb(&controls->decode_params, h);
1673 +
1674 +    controls->first_slice = !FIELD_PICTURE(h) || h->first_field;
1675 +    controls->num_slices = 0;
1676 +
1677 +    return ff_v4l2_request_reset_frame(avctx, h->cur_pic_ptr->f);
1678 +}
1679 +
1680 +static int v4l2_request_h264_queue_decode(AVCodecContext *avctx, int last_slice)
1681 +{
1682 +    const H264Context *h = avctx->priv_data;
1683 +    V4L2RequestControlsH264 *controls = h->cur_pic_ptr->hwaccel_picture_private;
1684 +    V4L2RequestContextH264 *ctx = avctx->internal->hwaccel_priv_data;
1685 +
1686 +    struct v4l2_ext_control control[] = {
1687 +        {
1688 +            .id = V4L2_CID_STATELESS_H264_SPS,
1689 +            .ptr = &controls->sps,
1690 +            .size = sizeof(controls->sps),
1691 +        },
1692 +        {
1693 +            .id = V4L2_CID_STATELESS_H264_PPS,
1694 +            .ptr = &controls->pps,
1695 +            .size = sizeof(controls->pps),
1696 +        },
1697 +        {
1698 +            .id = V4L2_CID_STATELESS_H264_SCALING_MATRIX,
1699 +            .ptr = &controls->scaling_matrix,
1700 +            .size = sizeof(controls->scaling_matrix),
1701 +        },
1702 +        {
1703 +            .id = V4L2_CID_STATELESS_H264_DECODE_PARAMS,
1704 +            .ptr = &controls->decode_params,
1705 +            .size = sizeof(controls->decode_params),
1706 +        },
1707 +        {
1708 +            .id = V4L2_CID_STATELESS_H264_SLICE_PARAMS,
1709 +            .ptr = &controls->slice_params,
1710 +            .size = sizeof(controls->slice_params),
1711 +        },
1712 +        {
1713 +            .id = V4L2_CID_STATELESS_H264_PRED_WEIGHTS,
1714 +            .ptr = &controls->pred_weights,
1715 +            .size = sizeof(controls->pred_weights),
1716 +        },
1717 +    };
1718 +
1719 +    if (ctx->decode_mode == V4L2_STATELESS_H264_DECODE_MODE_SLICE_BASED) {
1720 +        int count = FF_ARRAY_ELEMS(control) - (controls->pred_weights_required ? 0 : 1);
1721 +        return ff_v4l2_request_decode_slice(avctx, h->cur_pic_ptr->f, control, count, controls->first_slice, last_slice);
1722 +    }
1723 +
1724 +    return ff_v4l2_request_decode_frame(avctx, h->cur_pic_ptr->f, control, FF_ARRAY_ELEMS(control) - 2);
1725 +}
1726 +
1727 +static int v4l2_request_h264_decode_slice(AVCodecContext *avctx, const uint8_t *buffer, uint32_t size)
1728 +{
1729 +    const H264Context *h = avctx->priv_data;
1730 +    const PPS *pps = h->ps.pps;
1731 +    const H264SliceContext *sl = &h->slice_ctx[0];
1732 +    V4L2RequestControlsH264 *controls = h->cur_pic_ptr->hwaccel_picture_private;
1733 +    V4L2RequestContextH264 *ctx = avctx->internal->hwaccel_priv_data;
1734 +    int i, ret, count;
1735 +
1736 +    if (ctx->decode_mode == V4L2_STATELESS_H264_DECODE_MODE_SLICE_BASED && controls->num_slices) {
1737 +        ret = v4l2_request_h264_queue_decode(avctx, 0);
1738 +        if (ret)
1739 +            return ret;
1740 +
1741 +        ff_v4l2_request_reset_frame(avctx, h->cur_pic_ptr->f);
1742 +        controls->first_slice = 0;
1743 +    }
1744 +
1745 +    if (ctx->start_code == V4L2_STATELESS_H264_START_CODE_ANNEX_B) {
1746 +        ret = ff_v4l2_request_append_output_buffer(avctx, h->cur_pic_ptr->f, nalu_slice_start_code, 3);
1747 +        if (ret)
1748 +            return ret;
1749 +    }
1750 +
1751 +    ret = ff_v4l2_request_append_output_buffer(avctx, h->cur_pic_ptr->f, buffer, size);
1752 +    if (ret)
1753 +        return ret;
1754 +
1755 +    if (ctx->decode_mode != V4L2_STATELESS_H264_DECODE_MODE_SLICE_BASED)
1756 +        return 0;
1757 +
1758 +    controls->slice_params = (struct v4l2_ctrl_h264_slice_params) {
1759 +        /* Offset in bits to slice_data() from the beginning of this slice. */
1760 +        .header_bit_size = get_bits_count(&sl->gb),
1761 +
1762 +        .first_mb_in_slice = sl->first_mb_addr,
1763 +
1764 +        .slice_type = ff_h264_get_slice_type(sl),
1765 +        .colour_plane_id = 0, /* separate colour plane not supported by FFmpeg */
1766 +        .redundant_pic_cnt = sl->redundant_pic_count,
1767 +        .cabac_init_idc = sl->cabac_init_idc,
1768 +        .slice_qp_delta = sl->qscale - pps->init_qp,
1769 +        .slice_qs_delta = 0, /* not implemented by FFmpeg */
1770 +        .disable_deblocking_filter_idc = sl->deblocking_filter < 2 ? !sl->deblocking_filter : sl->deblocking_filter,
1771 +        .slice_alpha_c0_offset_div2 = sl->slice_alpha_c0_offset / 2,
1772 +        .slice_beta_offset_div2 = sl->slice_beta_offset / 2,
1773 +        .num_ref_idx_l0_active_minus1 = sl->list_count > 0 ? sl->ref_count[0] - 1 : 0,
1774 +        .num_ref_idx_l1_active_minus1 = sl->list_count > 1 ? sl->ref_count[1] - 1 : 0,
1775 +    };
1776 +
1777 +    if (sl->slice_type == AV_PICTURE_TYPE_B && sl->direct_spatial_mv_pred)
1778 +        controls->slice_params.flags |= V4L2_H264_SLICE_FLAG_DIRECT_SPATIAL_MV_PRED;
1779 +    /* V4L2_H264_SLICE_FLAG_SP_FOR_SWITCH: not implemented by FFmpeg */
1780 +
1781 +    controls->pred_weights_required = V4L2_H264_CTRL_PRED_WEIGHTS_REQUIRED(&controls->pps, &controls->slice_params);
1782 +    if (controls->pred_weights_required) {
1783 +        controls->pred_weights.chroma_log2_weight_denom = sl->pwt.chroma_log2_weight_denom;
1784 +        controls->pred_weights.luma_log2_weight_denom = sl->pwt.luma_log2_weight_denom;
1785 +    }
1786 +
1787 +    count = sl->list_count > 0 ? sl->ref_count[0] : 0;
1788 +    for (i = 0; i < count; i++)
1789 +        fill_ref_list(&controls->slice_params.ref_pic_list0[i], &controls->decode_params, &sl->ref_list[0][i]);
1790 +    if (count && controls->pred_weights_required)
1791 +        fill_weight_factors(&controls->pred_weights.weight_factors[0], 0, sl);
1792 +
1793 +    count = sl->list_count > 1 ? sl->ref_count[1] : 0;
1794 +    for (i = 0; i < count; i++)
1795 +        fill_ref_list(&controls->slice_params.ref_pic_list1[i], &controls->decode_params, &sl->ref_list[1][i]);
1796 +    if (count && controls->pred_weights_required)
1797 +        fill_weight_factors(&controls->pred_weights.weight_factors[1], 1, sl);
1798 +
1799 +    controls->num_slices++;
1800 +    return 0;
1801 +}
1802 +
1803 +static int v4l2_request_h264_end_frame(AVCodecContext *avctx)
1804 +{
1805 +    const H264Context *h = avctx->priv_data;
1806 +    return v4l2_request_h264_queue_decode(avctx, !FIELD_PICTURE(h) || !h->first_field);
1807 +}
1808 +
1809 +static int v4l2_request_h264_set_controls(AVCodecContext *avctx)
1810 +{
1811 +    V4L2RequestContextH264 *ctx = avctx->internal->hwaccel_priv_data;
1812 +
1813 +    struct v4l2_ext_control control[] = {
1814 +        { .id = V4L2_CID_STATELESS_H264_DECODE_MODE, },
1815 +        { .id = V4L2_CID_STATELESS_H264_START_CODE, },
1816 +    };
1817 +
1818 +    ctx->decode_mode = ff_v4l2_request_query_control_default_value(avctx, V4L2_CID_STATELESS_H264_DECODE_MODE);
1819 +    if (ctx->decode_mode != V4L2_STATELESS_H264_DECODE_MODE_SLICE_BASED &&
1820 +        ctx->decode_mode != V4L2_STATELESS_H264_DECODE_MODE_FRAME_BASED) {
1821 +        av_log(avctx, AV_LOG_ERROR, "%s: unsupported decode mode, %d\n", __func__, ctx->decode_mode);
1822 +        return AVERROR(EINVAL);
1823 +    }
1824 +
1825 +    ctx->start_code = ff_v4l2_request_query_control_default_value(avctx, V4L2_CID_STATELESS_H264_START_CODE);
1826 +    if (ctx->start_code != V4L2_STATELESS_H264_START_CODE_NONE &&
1827 +        ctx->start_code != V4L2_STATELESS_H264_START_CODE_ANNEX_B) {
1828 +        av_log(avctx, AV_LOG_ERROR, "%s: unsupported start code, %d\n", __func__, ctx->start_code);
1829 +        return AVERROR(EINVAL);
1830 +    }
1831 +
1832 +    control[0].value = ctx->decode_mode;
1833 +    control[1].value = ctx->start_code;
1834 +
1835 +    return ff_v4l2_request_set_controls(avctx, control, FF_ARRAY_ELEMS(control));
1836 +}
1837 +
1838 +static int v4l2_request_h264_init(AVCodecContext *avctx)
1839 +{
1840 +    const H264Context *h = avctx->priv_data;
1841 +    struct v4l2_ctrl_h264_sps sps;
1842 +    int ret;
1843 +
1844 +    struct v4l2_ext_control control[] = {
1845 +        {
1846 +            .id = V4L2_CID_STATELESS_H264_SPS,
1847 +            .ptr = &sps,
1848 +            .size = sizeof(sps),
1849 +        },
1850 +    };
1851 +
1852 +    fill_sps(&sps, h);
1853 +
1854 +    ret = ff_v4l2_request_init(avctx, V4L2_PIX_FMT_H264_SLICE, 4 * 1024 * 1024, control, FF_ARRAY_ELEMS(control));
1855 +    if (ret)
1856 +        return ret;
1857 +
1858 +    return v4l2_request_h264_set_controls(avctx);
1859 +}
1860 +
1861 +const AVHWAccel ff_h264_v4l2request_hwaccel = {
1862 +    .name           = "h264_v4l2request",
1863 +    .type           = AVMEDIA_TYPE_VIDEO,
1864 +    .id             = AV_CODEC_ID_H264,
1865 +    .pix_fmt        = AV_PIX_FMT_DRM_PRIME,
1866 +    .start_frame    = v4l2_request_h264_start_frame,
1867 +    .decode_slice   = v4l2_request_h264_decode_slice,
1868 +    .end_frame      = v4l2_request_h264_end_frame,
1869 +    .frame_priv_data_size = sizeof(V4L2RequestControlsH264),
1870 +    .init           = v4l2_request_h264_init,
1871 +    .uninit         = ff_v4l2_request_uninit,
1872 +    .priv_data_size = sizeof(V4L2RequestContextH264),
1873 +    .frame_params   = ff_v4l2_request_frame_params,
1874 +    .caps_internal  = HWACCEL_CAP_ASYNC_SAFE,
1875 +};
1876 From f9f4a89058a6fac25712cc385eab72f70e9ac4c8 Mon Sep 17 00:00:00 2001
1877 From: Jonas Karlman <jonas@kwiboo.se>
1878 Date: Mon, 29 Apr 2019 22:08:59 +0000
1879 Subject: [PATCH] HACK: hwcontext_drm: do not require drm device
1880
1881 Signed-off-by: Jonas Karlman <jonas@kwiboo.se>
1882 ---
1883  libavutil/hwcontext_drm.c | 5 +++++
1884  1 file changed, 5 insertions(+)
1885
1886 diff --git a/libavutil/hwcontext_drm.c b/libavutil/hwcontext_drm.c
1887 index 32cbde82ebfa..aa4794c5e665 100644
1888 --- a/libavutil/hwcontext_drm.c
1889 +++ b/libavutil/hwcontext_drm.c
1890 @@ -43,6 +43,11 @@ static int drm_device_create(AVHWDeviceContext *hwdev, const char *device,
1891      AVDRMDeviceContext *hwctx = hwdev->hwctx;
1892      drmVersionPtr version;
1893
1894 +    if (device == NULL) {
1895 +      hwctx->fd = -1;
1896 +      return 0;
1897 +    }
1898 +
1899      hwctx->fd = open(device, O_RDWR);
1900      if (hwctx->fd < 0)
1901          return AVERROR(errno);
1902 From fa7165e391287bf970569e36b0b19bff947b084f Mon Sep 17 00:00:00 2001
1903 From: Jonas Karlman <jonas@kwiboo.se>
1904 Date: Mon, 27 Jul 2020 23:15:45 +0000
1905 Subject: [PATCH] HACK: define drm NV15 and NV20 format
1906
1907 ---
1908  libavcodec/v4l2_request.c | 8 ++++++++
1909  1 file changed, 8 insertions(+)
1910
1911 diff --git a/libavcodec/v4l2_request.c b/libavcodec/v4l2_request.c
1912 index 0b294feff2eb..a8f0ee79eeef 100644
1913 --- a/libavcodec/v4l2_request.c
1914 +++ b/libavcodec/v4l2_request.c
1915 @@ -30,6 +30,14 @@
1916  #include "internal.h"
1917  #include "v4l2_request.h"
1918
1919 +#ifndef DRM_FORMAT_NV15
1920 +#define DRM_FORMAT_NV15 fourcc_code('N', 'V', '1', '5')
1921 +#endif
1922 +
1923 +#ifndef DRM_FORMAT_NV20
1924 +#define DRM_FORMAT_NV20 fourcc_code('N', 'V', '2', '0')
1925 +#endif
1926 +
1927  uint64_t ff_v4l2_request_get_capture_timestamp(AVFrame *frame)
1928  {
1929      V4L2RequestDescriptor *req = (V4L2RequestDescriptor*)frame->data[0];