Depende da sua posição.
No meu caso, tenho tendência para ouvir música ou mesmo a rádio, porque estou em TI, mas as pessoas do serviço ao cliente ou outros parceiros não podem, pois precisam de estar realmente concentradas no que escrevem em e-mails ou no que dizem.
No nosso caso, não faz mal ouvir música, eu uso pessoalmente o Grooveshark, e outros usam o Spotify, mas de qualquer forma é indelicado se ouvir música tão alta que não consegue ouvir se alguém lhe pedir ajuda.
O meu truque é deixar um ouvido fora dos auscultadores, para poder ouvir se as pessoas falarem comigo.
No entanto, se for mesmo barulhento, coloque os auscultadores e ouça apenas música sem letra, um pouco baixa. Assim, pode concentrar-se no seu trabalho (porque há música em primeiro plano e o som de fundo já não se ouve), mas qualquer voz à sua volta será muito fácil de notar.
O meu truque de ouro:
Ask around se alguém ouvir música. Se ninguém ouvir, verifique se alguém ouviu música antes, e isto foi proibido.