Pasa en ocasiones cuando has realizado un elaborado proceso de edición de tu foto. O también cuando estás intentando hacer una imagen HDR. El caso es que no toda imagen se puede guardar en formato JPEG, pero sí que puede ser convertida para poder guardarla como tal. Debes asegurarte de que el modo de la imagen es RGB y usas 8 bits/canal. Para asegurarte de ello, accede a Imagen -> Modo.