Klar kannst Du es übers Terminal machen, aber warum denn nur?
Wie auch immer:
defaults write com.apple.screencapture type Bildtyp
Statt Bildtyp einfach das gewünschte Format, ohne Punkt oder so, also „jpg“ oder „tiff“ usw.
Sollte es nicht gleich werkeln, neu booten oder:
killall SystemUIServer
Aber wie gesagt…