Então Lucas. A resposta é bem simples e direta, você pode sim usar malloc e new em programação windows.
Mas existe um porém, o recomendado é você usar as funções da API do windows que são GlobalAlloc, LocalAlloc, HeapAlloc, VirualAlloc e CoTaskMemAlloc. Todas alocam memória porém existe uma leve diferença entre cada uma delas, que as tornam únicas.
As que eu mais uso com maior frequência são HeapAlloc e GlobalAlloc, eu poderia usar malloc ou new no lugar delas, mas seguindo o padrão da empresa em que trabalho eu uso as funções da própria API do Windows.
Quando temos algum projeto multiplataforma ou temos que trabalhar com algum sistema embarcado ou desenvolver algum driver específico ae usamos malloc ou new.
Mesmo existindo as funções da API você pode sim usar com total segurança malloc e new, isto está bem definido no manual da API do windows. Não havendo sombra para dúvidas quanto a isto.
Sempre que houver dúvidas recorra ao manual da API do windows ou do OS que estiver usando, e ainda também verifique manual do compilador. Esta prática é muito importante.
Existem mais detalhes avançados sobre este assunto que não irei abordar aqui. Eu sugiro caso ainda esteja interessado, pesquisar a API do windows no site MSDN. Se surgirem dúvidas poste aqui que tentaremos ajudar.