El Nikkei cayó un 1,67% hasta los 37.818,11 puntos al mediodía, rompiendo así una racha de tres sesiones al alza.
El índice subió un 2,4% el miércoles para recuperar el nivel de los 38.000 en su mayor salto diario en más de un mes.
El Topix más amplio bajó un 1,25% hasta los 2.676,73 puntos.
"El mercado ha estado volátil últimamente porque hay muchas incertidumbres que han cambiado las premisas de los inversores", dijo Kentaro Hayashi, estratega senior de Daiwa Securities.
"La inflación en EE.UU. es más persistente de lo esperado, lo que ha impulsado al alza los rendimientos estadounidenses, y las tensiones geográficas en Oriente Medio han elevado los precios del petróleo".
El índice de volatilidad Nikkei alcanzó los 27,82 puntos el 19 de abril, su nivel más alto desde el 3 de octubre, y se situó por última vez en los 20,77 puntos.
Las acciones relacionadas con los chips arrastraron al Nikkei a la baja, con Tokyo Electron y Advantest cayendo un 3,22% y un 2,04%, respectivamente. Shin-Etsu Chemical perdió un 2,22%.
El inversor tecnológico SoftBank Group cayó un 1,12%.
Toyota Motor cayó un 2,87% a pesar de que el yen tocó mínimos de 34 años.
Durante la noche, el yen cayó por debajo de 155 a su nivel más débil frente al dólar desde junio de 1990, un nivel considerado como la línea en la arena de las autoridades que aumenta la posibilidad de una intervención monetaria.
El mercado se centra en si el gobernador del Banco de Japón, Kazuo Ueda, hará algún comentario de línea dura sobre las perspectivas de una subida de los tipos de interés a corto plazo al término de su reunión política de dos días del viernes.
Fanuc perdió un 2,51% después de que la previsión de beneficios anuales del fabricante de robots quedara por debajo de las expectativas del mercado.
Canon se desplomó un 7,09% después de que el beneficio operativo anual del fabricante de cámaras incumpliera las expectativas de los analistas.
En contra de la tendencia, Renesas Electronics subió un 2,36% después de que el fabricante de chips emitiera unas perspectivas positivas para los chips utilizados en los automóviles.
De los 225 componentes del Nikkei, 32 valores subieron, mientras que 193 cayeron.
