Antes de tudo, parabéns por esta perto de concluir essa etapa.
Sobre a pergunta, você escolheu temas que estão quentíssimos tanto na industrial quanto na academia. Ja trabalhei em um projeto de visão computacional que um dos gargalos era justamente os dados disponíveis e uma das soluções propostas foi a geração de dados sintéticos. So para vc ter ideia um design de jogos foi contratado para gerar os modelos dos objetos que a gente tava precisando. Sobre PINN, no projeto que estou alocado agora, a gnt vai suar PINN num digital twin de uma planta para ajudar na simulação do processo dela.
Minha visão seria a seguinte, pensando em ML Engineer seguiria com a ideia 1. A ideia 2 tem um teor fortemente acadêmico, como vc comentou. Todavia, como eu exemplifiquei, a indústria já esta adotando algumas ideias nesse campo.