El cuadrado que se abre es una capa superior a la del vídeo. En el centro, hay una "ventana" en canal alfa (Transparente) que puedes conseguir con un .psd o un .png por ejemplo (.jpg no). Por eso se ve el vídeo del fondo, mientras el recuadro se abre y se cierra (Esto se puede hacer con cualquier programa de edición.)
Vamos, que simplemente, si tu vídeo es de 1080x1080 crea un .psd de 4k (Tiene que ser más grande que el vídeo) y déjale un recuadro en medio en canal alfa (Simplemente seleccionas en photoshop esa zona y le eliminas el color con la tecla suprimir.)
En tu programa de edición, pones ese .psd en una capa superior a la del vídeo, y lo ajustas a la escena (Te sobrará margen que no se vera por los lados, así no pierdes calidad al contraerlo-expandirlo.)
En la ventana de efectos le añades movimiento y lo expandes y contraes como quieras a lo largo de X segundos, y ya tendrás tu animación hecha. Solo te faltaran las letras, esto es más complicado, tienes que "trackearlas".
Si no tienes las herramientas para hacerlo o no sabes (Es más complicado) añádeles el mismo movimiento en la ventana de efectos que al .psd del recuadro negro, y prueba y prueba hasta que quede fluido. Las puedes añadir en un título dentro del programa de edición o importarlas de fuera en el formato que prefieras.
Espero que lo entiendas, no se me da muy bien explicar estas cosas.
Obviamente, con after effects es mucho más sencillo, pero se puede hacer perfectamente con programas de edición.
EDIT: Más sencillo aún, adjunto imagen:
Ver el archivo adjunto 83440
Creas dos .psd en el photoshop y al juntarlos y separarlos hacen ese efecto. Como no hay que expandir ni contraer, puedes poner el texto en las mismas imágenes. Solo tendrás que añadirle el efecto de movimiento y listo, la verdad que es una animación más que sencilla.