Estou dando essa dica, pois passei essa dificuldade e procurei por toda a net e não obtive resultado na solução de meu problema.

O problema surgiu quando o backup de meu banco de dados ultrapassou 2GB, e o mkisofs simplesmente não quis mais criar a imagem para gravação em mídia dvd-rw.

O erro é o seguinte:

"mkisofs: Value too large for defined data type"

O problema estava na versão do mkisofs, a versão mkisofs-2.0-6 não cria imagem de arquivos maior que 2GB, troquei para mkisofs-2.01.0.a33-1 e ficou beleza.

A minha distro é Red Hat.